import sys, os
sys.path.append(os.pardir)
import pickle
import numpy as np
from tqdm import tqdm
from collections import OrderedDict
import matplotlib.pyplot as plt
def im2col(input_data, filter_h, filter_w, stride=1, pad=0):
N, C, H, W = input_data.shape
out_h = (H + 2*pad - filter_h)//stride + 1
out_w = (W + 2*pad - filter_w)//stride + 1
img = np.pad(input_data, [(0,0), (0,0), (pad, pad), (pad, pad)], 'constant')
col = np.zeros((N, C, filter_h, filter_w, out_h, out_w))
for y in range(filter_h):
y_max = y + stride*out_h
for x in range(filter_w):
x_max = x + stride*out_w
col[:, :, y, x, :, :] = img[:, :, y:y_max:stride, x:x_max:stride]
col = col.transpose(0, 4, 5, 1, 2, 3).reshape(N*out_h*out_w, -1)
return col
def col2im(col, input_shape, filter_h, filter_w, stride=1, pad=0):
N, C, H, W = input_shape
out_h = (H + 2*pad - filter_h)//stride + 1
out_w = (W + 2*pad - filter_w)//stride + 1
col = col.reshape(N, out_h, out_w, C, filter_h, filter_w).transpose(0, 3, 4, 5, 1, 2)
img = np.zeros((N, C, H + 2*pad + stride - 1, W + 2*pad + stride - 1))
for y in range(filter_h):
y_max = y + stride*out_h
for x in range(filter_w):
x_max = x + stride*out_w
img[:, :, y:y_max:stride, x:x_max:stride] += col[:, :, y, x, :, :]
return img[:, :, pad:H + pad, pad:W + pad]
def softmax(x):
x = x - np.max(x, axis=-1, keepdims=True)
return np.exp(x) / np.sum(np.exp(x), axis=-1, keepdims=True)
def cross_entropy_error(y, t):
if y.ndim == 1:
t = t.reshape(1, t.size)
y = y.reshape(1, y.size)
if t.size == y.size:
t = t.argmax(axis=1)
batch_size = y.shape[0]
return -np.sum(np.log(y[np.arange(batch_size), t] + 1e-7)) / batch_size
try:
import urllib.request
except ImportError:
raise ImportError('You should use Python 3.x')
import os.path
import gzip
import pickle
import os
import numpy as np
url_base = 'https://ossci-datasets.s3.amazonaws.com/mnist/' # mirror site
key_file = {
'train_img':'train-images-idx3-ubyte.gz',
'train_label':'train-labels-idx1-ubyte.gz',
'test_img':'t10k-images-idx3-ubyte.gz',
'test_label':'t10k-labels-idx1-ubyte.gz'
}
dataset_dir = os.path.dirname(os.path.abspath('__file__'))
save_file = dataset_dir + "/mnist.pkl"
#save_file = "mnist.pkl"
train_num = 60000
test_num = 10000
img_dim = (1, 28, 28)
img_size = 784
def _download(file_name):
file_path = dataset_dir + "/" + file_name
if os.path.exists(file_path):
return
print("Downloading " + file_name + " ... ")
headers = {"User-Agent": "Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:47.0) Gecko/20100101 Firefox/47.0"}
request = urllib.request.Request(url_base+file_name, headers=headers)
response = urllib.request.urlopen(request).read()
with open(file_path, mode='wb') as f:
f.write(response)
print("Done")
def _load_label(file_name):
file_path = dataset_dir + "/" + file_name
print("Converting " + file_name + " to NumPy Array ...")
with gzip.open(file_path, 'rb') as f:
labels = np.frombuffer(f.read(), np.uint8, offset=8)
print("Done")
return labels
def _load_img(file_name):
file_path = dataset_dir + "/" + file_name
print("Converting " + file_name + " to NumPy Array ...")
with gzip.open(file_path, 'rb') as f:
data = np.frombuffer(f.read(), np.uint8, offset=16)
data = data.reshape(-1, img_size)
print("Done")
return data
def _convert_numpy():
dataset = {}
dataset['train_img'] = _load_img(key_file['train_img'])
dataset['train_label'] = _load_label(key_file['train_label'])
dataset['test_img'] = _load_img(key_file['test_img'])
dataset['test_label'] = _load_label(key_file['test_label'])
return dataset
def download_mnist():
for v in key_file.values():
_download(v)
def init_mnist():
download_mnist()
dataset = _convert_numpy()
print("Creating pickle file ...")
with open(save_file, 'wb') as f:
pickle.dump(dataset, f, -1)
print("Done!")
def load_mnist(normalize=True, flatten=True, one_hot_label=False):
if not os.path.exists(save_file):
init_mnist()
with open(save_file, 'rb') as f:
dataset = pickle.load(f)
if normalize:
for key in ('train_img', 'test_img'):
dataset[key] = dataset[key].astype(np.float32)
dataset[key] /= 255.0
if one_hot_label:
dataset['train_label'] = _change_one_hot_label(dataset['train_label'])
dataset['test_label'] = _change_one_hot_label(dataset['test_label'])
if not flatten:
for key in ('train_img', 'test_img'):
dataset[key] = dataset[key].reshape(-1, 1, 28, 28)
return (dataset['train_img'], dataset['train_label']), (dataset['test_img'], dataset['test_label'])
class Relu:
def __init__(self):
self.mask = None
def forward(self, x):
self.mask = (x <= 0)
out = x.copy()
out[self.mask] = 0
return out
def backward(self, dout):
dout[self.mask] = 0
dx = dout
return dx
class Affine:
def __init__(self, W, b):
self.W =W
self.b = b
self.x = None
self.original_x_shape = None
self.dW = None
self.db = None
def forward(self, x):
self.original_x_shape = x.shape
x = x.reshape(x.shape[0], -1)
self.x = x
out = np.dot(self.x, self.W) + self.b
return out
def backward(self, dout):
dx = np.dot(dout, self.W.T)
self.dW = np.dot(self.x.T, dout)
self.db = np.sum(dout, axis=0)
dx = dx.reshape(*self.original_x_shape) # 入力データの形状に戻す(テンソル対応)
return dx
class SoftmaxWithLoss:
def __init__(self):
self.loss = None
self.y = None
self.t = None
def forward(self, x, t):
self.t = t
self.y = softmax(x)
self.loss = cross_entropy_error(self.y, self.t)
return self.loss
def backward(self, dout=1):
batch_size = self.t.shape[0]
if self.t.size == self.y.size:
dx = (self.y - self.t) / batch_size
else:
dx = self.y.copy()
dx[np.arange(batch_size), self.t] -= 1
dx = dx / batch_size
return dx
class Convolution:
def __init__(self, W, b, stride=1, pad=0):
self.W = W
self.b = b
self.stride = stride
self.pad = pad
self.x = None
self.col = None
self.col_W = None
self.dW = None
self.db = None
def forward(self, x):
FN, C, FH, FW = self.W.shape
N, C, H, W = x.shape
out_h = 1 + int((H + 2*self.pad - FH) / self.stride)
out_w = 1 + int((W + 2*self.pad - FW) / self.stride)
col = im2col(x, FH, FW, self.stride, self.pad)
col_W = self.W.reshape(FN, -1).T
out = np.dot(col, col_W) + self.b
out = out.reshape(N, out_h, out_w, -1).transpose(0, 3, 1, 2)
self.x = x
self.col = col
self.col_W = col_W
return out
def backward(self, dout):
FN, C, FH, FW = self.W.shape
dout = dout.transpose(0,2,3,1).reshape(-1, FN)
self.db = np.sum(dout, axis=0)
self.dW = np.dot(self.col.T, dout)
self.dW = self.dW.transpose(1, 0).reshape(FN, C, FH, FW)
dcol = np.dot(dout, self.col_W.T)
dx = col2im(dcol, self.x.shape, FH, FW, self.stride, self.pad)
return dx
class Pooling:
def __init__(self, pool_h, pool_w, stride=2, pad=0):
self.pool_h = pool_h
self.pool_w = pool_w
self.stride = stride
self.pad = pad
self.x = None
self.arg_max = None
def forward(self, x):
N, C, H, W = x.shape
out_h = int(1 + (H - self.pool_h) / self.stride)
out_w = int(1 + (W - self.pool_w) / self.stride)
col = im2col(x, self.pool_h, self.pool_w, self.stride, self.pad)
col = col.reshape(-1, self.pool_h*self.pool_w)
arg_max = np.argmax(col, axis=1)
out = np.max(col, axis=1)
out = out.reshape(N, out_h, out_w, C).transpose(0, 3, 1, 2)
self.x = x
self.arg_max = arg_max
return out
def backward(self, dout):
dout = dout.transpose(0, 2, 3, 1)
pool_size = self.pool_h * self.pool_w
dmax = np.zeros((dout.size, pool_size))
dmax[np.arange(self.arg_max.size), self.arg_max.flatten()] = dout.flatten()
dmax = dmax.reshape(dout.shape + (pool_size,))
dcol = dmax.reshape(dmax.shape[0] * dmax.shape[1] * dmax.shape[2], -1)
dx = col2im(dcol, self.x.shape, self.pool_h, self.pool_w, self.stride, self.pad)
return dx
def numerical_gradient(f, x):
h = 1e-4 # 0.0001
grad = np.zeros_like(x)
it = np.nditer(x, flags=['multi_index'], op_flags=['readwrite'])
while not it.finished:
idx = it.multi_index
tmp_val = x[idx]
x[idx] = tmp_val + h
fxh1 = f(x)
x[idx] = tmp_val - h
fxh2 = f(x)
grad[idx] = (fxh1 - fxh2) / (2*h)
x[idx] = tmp_val
it.iternext()
return grad
class SGD:
def __init__(self, lr=0.01):
self.lr = lr
def update(self, params, grads):
for key in params.keys():
params[key] -= self.lr * grads[key]
class Momentum:
def __init__(self, lr=0.01, momentum=0.9):
self.lr = lr
self.momentum = momentum
self.v = None
def update(self, params, grads):
if self.v is None:
self.v = {}
for key, val in params.items():
self.v[key] = np.zeros_like(val)
for key in params.keys():
self.v[key] = self.momentum*self.v[key] - self.lr*grads[key]
params[key] += self.v[key]
class Nesterov:
def __init__(self, lr=0.01, momentum=0.9):
self.lr = lr
self.momentum = momentum
self.v = None
def update(self, params, grads):
if self.v is None:
self.v = {}
for key, val in params.items():
self.v[key] = np.zeros_like(val)
for key in params.keys():
params[key] += self.momentum * self.momentum * self.v[key]
params[key] -= (1 + self.momentum) * self.lr * grads[key]
self.v[key] *= self.momentum
self.v[key] -= self.lr * grads[key]
class AdaGrad:
def __init__(self, lr=0.01):
self.lr = lr
self.h = None
def update(self, params, grads):
if self.h is None:
self.h = {}
for key, val in params.items():
self.h[key] = np.zeros_like(val)
for key in params.keys():
self.h[key] += grads[key] * grads[key]
params[key] -= self.lr * grads[key] / (np.sqrt(self.h[key]) + 1e-7)
class RMSprop:
def __init__(self, lr=0.01, decay_rate = 0.99):
self.lr = lr
self.decay_rate = decay_rate
self.h = None
def update(self, params, grads):
if self.h is None:
self.h = {}
for key, val in params.items():
self.h[key] = np.zeros_like(val)
for key in params.keys():
self.h[key] *= self.decay_rate
self.h[key] += (1 - self.decay_rate) * grads[key] * grads[key]
params[key] -= self.lr * grads[key] / (np.sqrt(self.h[key]) + 1e-7)
class Adam:
def __init__(self, lr=0.001, beta1=0.9, beta2=0.999):
self.lr = lr
self.beta1 = beta1
self.beta2 = beta2
self.iter = 0
self.m = None
self.v = None
def update(self, params, grads):
if self.m is None:
self.m, self.v = {}, {}
for key, val in params.items():
self.m[key] = np.zeros_like(val)
self.v[key] = np.zeros_like(val)
self.iter += 1
lr_t = self.lr * np.sqrt(1.0 - self.beta2**self.iter) / (1.0 - self.beta1**self.iter)
for key in params.keys():
#self.m[key] = self.beta1*self.m[key] + (1-self.beta1)*grads[key]
#self.v[key] = self.beta2*self.v[key] + (1-self.beta2)*(grads[key]**2)
self.m[key] += (1 - self.beta1) * (grads[key] - self.m[key])
self.v[key] += (1 - self.beta2) * (grads[key]**2 - self.v[key])
params[key] -= lr_t * self.m[key] / (np.sqrt(self.v[key]) + 1e-7)
class Trainer:
def __init__(self, network, x_train, t_train, x_test, t_test,
epochs=20, mini_batch_size=100,
optimizer='SGD', optimizer_param={'lr':0.01},
evaluate_sample_num_per_epoch=None, verbose=True):
self.network = network
self.verbose = verbose
self.x_train = x_train
self.t_train = t_train
self.x_test = x_test
self.t_test = t_test
self.epochs = epochs
self.batch_size = mini_batch_size
self.evaluate_sample_num_per_epoch = evaluate_sample_num_per_epoch
# optimizer
optimizer_class_dict = {'sgd':SGD, 'momentum':Momentum, 'nesterov':Nesterov,
'adagrad':AdaGrad, 'rmsprop':RMSprop, 'adam':Adam}
self.optimizer = optimizer_class_dict[optimizer.lower()](**optimizer_param)
self.train_size = x_train.shape[0]
self.iter_per_epoch = max(self.train_size / mini_batch_size, 1)
self.max_iter = int(epochs * self.iter_per_epoch)
self.current_iter = 0
self.current_epoch = 0
self.train_loss_list = []
self.train_acc_list = []
self.test_acc_list = []
def train_step(self):
batch_mask = np.random.choice(self.train_size, self.batch_size)
x_batch = self.x_train[batch_mask]
t_batch = self.t_train[batch_mask]
grads = self.network.gradient(x_batch, t_batch)
self.optimizer.update(self.network.params, grads)
loss = self.network.loss(x_batch, t_batch)
if self.verbose: print("train loss:" + str(loss))
if self.current_iter % self.iter_per_epoch == 0:
self.current_epoch += 1
x_train_sample, t_train_sample = self.x_train, self.t_train
x_test_sample, t_test_sample = self.x_test, self.t_test
if not self.evaluate_sample_num_per_epoch is None:
t = self.evaluate_sample_num_per_epoch
x_train_sample, t_train_sample = self.x_train[:t], self.t_train[:t]
x_test_sample, t_test_sample = self.x_test[:t], self.t_test[:t]
train_acc = self.network.accuracy(x_train_sample, t_train_sample)
test_acc = self.network.accuracy(x_test_sample, t_test_sample)
self.train_acc_list.append(train_acc)
self.test_acc_list.append(test_acc)
self.train_loss_list.append(loss)
if self.verbose: print("=== epoch:" + str(self.current_epoch) + ", train acc:" + str(train_acc) + ", test acc:" + str(test_acc) + " ===")
self.current_iter += 1
def train(self):
#for i in range(self.max_iter):
for i in tqdm(range(self.max_iter)):
self.train_step()
test_acc = self.network.accuracy(self.x_test, self.t_test)
if self.verbose:
print("=============== Final Test Accuracy ===============")
print("test acc:" + str(test_acc))
class SimpleConvNet:
def __init__(self, input_dim=(1, 28, 28),
conv_param={'filter_num':30, 'filter_size':5, 'pad':0, 'stride':1},
hidden_size=100, output_size=10, weight_init_std=0.01):
filter_num = conv_param['filter_num']
filter_size = conv_param['filter_size']
filter_pad = conv_param['pad']
filter_stride = conv_param['stride']
input_size = input_dim[1]
conv_output_size = (input_size - filter_size + 2*filter_pad) / filter_stride + 1
pool_output_size = int(filter_num * (conv_output_size/2) * (conv_output_size/2))
self.params = {}
self.params['W1'] = weight_init_std * \
np.random.randn(filter_num, input_dim[0], filter_size, filter_size)
self.params['b1'] = np.zeros(filter_num)
self.params['W2'] = weight_init_std * \
np.random.randn(pool_output_size, hidden_size)
self.params['b2'] = np.zeros(hidden_size)
self.params['W3'] = weight_init_std * \
np.random.randn(hidden_size, output_size)
self.params['b3'] = np.zeros(output_size)
self.layers = OrderedDict()
self.layers['Conv1'] = Convolution(self.params['W1'], self.params['b1'],
conv_param['stride'], conv_param['pad'])
self.layers['Relu1'] = Relu()
self.layers['Pool1'] = Pooling(pool_h=2, pool_w=2, stride=2)
self.layers['Affine1'] = Affine(self.params['W2'], self.params['b2'])
self.layers['Relu2'] = Relu()
self.layers['Affine2'] = Affine(self.params['W3'], self.params['b3'])
self.last_layer = SoftmaxWithLoss()
def predict(self, x):
for layer in self.layers.values():
x = layer.forward(x)
return x
def loss(self, x, t):
y = self.predict(x)
return self.last_layer.forward(y, t)
def accuracy(self, x, t, batch_size=100):
if t.ndim != 1 : t = np.argmax(t, axis=1)
acc = 0.0
for i in range(int(x.shape[0] / batch_size)):
tx = x[i*batch_size:(i+1)*batch_size]
tt = t[i*batch_size:(i+1)*batch_size]
y = self.predict(tx)
y = np.argmax(y, axis=1)
acc += np.sum(y == tt)
return acc / x.shape[0]
def numerical_gradient(self, x, t):
loss_w = lambda w: self.loss(x, t)
grads = {}
for idx in (1, 2, 3):
grads['W' + str(idx)] = numerical_gradient(loss_w, self.params['W' + str(idx)])
grads['b' + str(idx)] = numerical_gradient(loss_w, self.params['b' + str(idx)])
return grads
def gradient(self, x, t):
self.loss(x, t)
dout = 1
dout = self.last_layer.backward(dout)
layers = list(self.layers.values())
layers.reverse()
for layer in layers:
dout = layer.backward(dout)
grads = {}
grads['W1'], grads['b1'] = self.layers['Conv1'].dW, self.layers['Conv1'].db
grads['W2'], grads['b2'] = self.layers['Affine1'].dW, self.layers['Affine1'].db
grads['W3'], grads['b3'] = self.layers['Affine2'].dW, self.layers['Affine2'].db
return grads
def save_params(self, file_name="params.pkl"):
params = {}
for key, val in self.params.items():
params[key] = val
with open(file_name, 'wb') as f:
pickle.dump(params, f)
def load_params(self, file_name="params.pkl"):
with open(file_name, 'rb') as f:
params = pickle.load(f)
for key, val in params.items():
self.params[key] = val
for i, key in enumerate(['Conv1', 'Affine1', 'Affine2']):
self.layers[key].W = self.params['W' + str(i+1)]
self.layers[key].b = self.params['b' + str(i+1)]
network = SimpleConvNet(input_dim=(1,10, 10),
conv_param = {'filter_num':10, 'filter_size':3, 'pad':0, 'stride':1},
hidden_size=10, output_size=10, weight_init_std=0.01)
X = np.random.rand(100).reshape((1, 1, 10, 10))
T = np.array([1]).reshape((1,1))
grad_num = network.numerical_gradient(X, T)
grad = network.gradient(X, T)
for key, val in grad_num.items():
print(key, np.abs(grad_num[key] - grad[key]).mean())
W1 5.903832252085156e-06 b1 1.5932580810890444e-05 W2 5.1385532572465435e-11 b2 6.379960659731384e-09 W3 4.210895796626996e-10 b3 1.7988633755489092e-07
(x_train, t_train), (x_test, t_test) = load_mnist(flatten=False)
max_epochs = 20
network = SimpleConvNet(input_dim=(1,28,28),
conv_param = {'filter_num': 30, 'filter_size': 5, 'pad': 0, 'stride': 1},
hidden_size=100, output_size=10, weight_init_std=0.01)
trainer = Trainer(network, x_train, t_train, x_test, t_test,
epochs=max_epochs, mini_batch_size=100,
optimizer='Adam', optimizer_param={'lr': 0.001},
evaluate_sample_num_per_epoch=1000)
trainer.train()
network.save_params("../params.pkl")
print("Saved Network Parameters!")
Converting train-images-idx3-ubyte.gz to NumPy Array ... Done Converting train-labels-idx1-ubyte.gz to NumPy Array ... Done Converting t10k-images-idx3-ubyte.gz to NumPy Array ... Done Converting t10k-labels-idx1-ubyte.gz to NumPy Array ... Done Creating pickle file ... Done!
0%| | 0/12000 [00:00<?, ?it/s]
train loss:2.2986490860848168
0%| | 2/12000 [00:01<2:34:23, 1.30it/s]
=== epoch:1, train acc:0.16, test acc:0.164 === train loss:2.2972947537495974
0%| | 4/12000 [00:02<1:17:10, 2.59it/s]
train loss:2.293529199445875 train loss:2.2830099357486775
0%| | 6/12000 [00:02<55:31, 3.60it/s]
train loss:2.2728653675842154 train loss:2.267202230441448
0%| | 7/12000 [00:02<51:03, 3.92it/s]
train loss:2.2395179932715026
0%| | 9/12000 [00:03<45:04, 4.43it/s]
train loss:2.2296603113741607 train loss:2.205243572585129
0%| | 10/12000 [00:03<42:47, 4.67it/s]
train loss:2.201285762822413
0%| | 11/12000 [00:03<42:49, 4.67it/s]
train loss:2.1573653862327897
0%| | 12/12000 [00:03<42:39, 4.68it/s]
train loss:2.1318514513529676
0%| | 13/12000 [00:04<42:31, 4.70it/s]
train loss:2.102841854246086 train loss:2.008793971566849
0%| | 15/12000 [00:04<42:23, 4.71it/s]
train loss:1.9699932281667545
0%| | 16/12000 [00:04<42:09, 4.74it/s]
train loss:1.9140602334237165
0%| | 17/12000 [00:04<42:14, 4.73it/s]
train loss:1.8820651985200534
0%|▏ | 19/12000 [00:05<41:34, 4.80it/s]
train loss:1.7936824119391597 train loss:1.731553765185995
0%|▏ | 21/12000 [00:05<41:35, 4.80it/s]
train loss:1.6255354945771838 train loss:1.5803735289478595
0%|▏ | 23/12000 [00:06<41:40, 4.79it/s]
train loss:1.4972644783242506 train loss:1.4164570606318574
0%|▏ | 25/12000 [00:06<41:24, 4.82it/s]
train loss:1.4257982712638142 train loss:1.311120422438527
0%|▏ | 26/12000 [00:06<41:43, 4.78it/s]
train loss:1.0863285742434305
0%|▏ | 28/12000 [00:07<41:15, 4.84it/s]
train loss:1.12503273781875 train loss:1.0822707395748317
0%|▏ | 29/12000 [00:07<41:23, 4.82it/s]
train loss:1.073291167839022
0%|▏ | 30/12000 [00:07<41:41, 4.78it/s]
train loss:0.9720333796102416
0%|▏ | 31/12000 [00:07<41:59, 4.75it/s]
train loss:0.850376192631236
0%|▏ | 33/12000 [00:08<41:54, 4.76it/s]
train loss:0.9011318753330211 train loss:0.7922537703337477
0%|▏ | 34/12000 [00:08<41:26, 4.81it/s]
train loss:0.8507653259879068
0%|▏ | 35/12000 [00:08<42:15, 4.72it/s]
train loss:0.7013028060405445
0%|▏ | 36/12000 [00:08<43:23, 4.60it/s]
train loss:0.738869659177344
0%|▎ | 38/12000 [00:09<44:06, 4.52it/s]
train loss:0.6632221045359689 train loss:0.9124714863357742
0%|▎ | 39/12000 [00:09<43:42, 4.56it/s]
train loss:0.7748643480033919
0%|▎ | 40/12000 [00:09<43:22, 4.60it/s]
train loss:0.5677098123013269
0%|▎ | 42/12000 [00:10<42:46, 4.66it/s]
train loss:0.6463012305406781 train loss:0.5253267107996442
0%|▎ | 43/12000 [00:10<42:33, 4.68it/s]
train loss:0.9214179394855833
0%|▎ | 44/12000 [00:10<42:39, 4.67it/s]
train loss:0.6164061364496867
0%|▎ | 45/12000 [00:10<42:52, 4.65it/s]
train loss:0.5252158348132341
0%|▎ | 46/12000 [00:11<43:16, 4.60it/s]
train loss:0.5554783427831556
0%|▎ | 47/12000 [00:11<42:48, 4.65it/s]
train loss:0.5856209022811454
0%|▎ | 48/12000 [00:11<42:41, 4.67it/s]
train loss:0.42705794049595425
0%|▎ | 49/12000 [00:11<42:42, 4.66it/s]
train loss:0.7757540511582023
0%|▎ | 50/12000 [00:11<42:43, 4.66it/s]
train loss:0.5118279731338456
0%|▎ | 51/12000 [00:12<42:23, 4.70it/s]
train loss:0.6570240402139271
0%|▎ | 52/12000 [00:12<42:41, 4.66it/s]
train loss:0.524872491604672
0%|▎ | 53/12000 [00:12<42:47, 4.65it/s]
train loss:0.5406530458091925
0%|▎ | 54/12000 [00:12<43:25, 4.58it/s]
train loss:0.487911724780927
0%|▎ | 55/12000 [00:12<42:38, 4.67it/s]
train loss:0.6807385537004456
0%|▎ | 56/12000 [00:13<42:53, 4.64it/s]
train loss:0.45248386402857493
0%|▍ | 57/12000 [00:13<42:57, 4.63it/s]
train loss:0.4529753129021931
0%|▍ | 58/12000 [00:13<43:01, 4.63it/s]
train loss:0.6503756040603078
0%|▍ | 59/12000 [00:13<43:37, 4.56it/s]
train loss:0.5687946618134676
0%|▍ | 60/12000 [00:14<43:51, 4.54it/s]
train loss:0.6030477462721577
1%|▍ | 61/12000 [00:14<46:04, 4.32it/s]
train loss:0.4993191031654656
1%|▍ | 62/12000 [00:14<46:05, 4.32it/s]
train loss:0.444807084373058
1%|▍ | 63/12000 [00:14<47:09, 4.22it/s]
train loss:0.5285756048374413
1%|▍ | 65/12000 [00:15<45:08, 4.41it/s]
train loss:0.5140512889496296 train loss:0.5850863577120717
1%|▍ | 66/12000 [00:15<44:36, 4.46it/s]
train loss:0.41183071197758137
1%|▍ | 67/12000 [00:15<44:32, 4.47it/s]
train loss:0.4154934186170058
1%|▍ | 68/12000 [00:15<44:35, 4.46it/s]
train loss:0.49997867336395246
1%|▍ | 69/12000 [00:16<43:56, 4.52it/s]
train loss:0.5325121189239471
1%|▍ | 71/12000 [00:16<42:53, 4.64it/s]
train loss:0.6307295416424062 train loss:0.3992648385109031
1%|▍ | 72/12000 [00:16<44:05, 4.51it/s]
train loss:0.4814168809399053
1%|▍ | 73/12000 [00:16<44:18, 4.49it/s]
train loss:0.406037753487041
1%|▍ | 74/12000 [00:17<43:32, 4.57it/s]
train loss:0.6934864155626496
1%|▍ | 75/12000 [00:17<43:31, 4.57it/s]
train loss:0.3075091113359977
1%|▌ | 76/12000 [00:17<44:09, 4.50it/s]
train loss:0.5565542421294003
1%|▌ | 77/12000 [00:17<43:55, 4.52it/s]
train loss:0.3627977083068531
1%|▌ | 78/12000 [00:18<44:08, 4.50it/s]
train loss:0.46185903675592094
1%|▌ | 79/12000 [00:18<44:08, 4.50it/s]
train loss:0.3479559734385468
1%|▌ | 80/12000 [00:18<43:57, 4.52it/s]
train loss:0.4622275995722766
1%|▌ | 81/12000 [00:18<44:05, 4.51it/s]
train loss:0.35353424035313585
1%|▌ | 82/12000 [00:18<44:02, 4.51it/s]
train loss:0.5718008901691507
1%|▌ | 83/12000 [00:19<43:31, 4.56it/s]
train loss:0.5724604696866683
1%|▌ | 84/12000 [00:19<43:41, 4.55it/s]
train loss:0.3118412488399567
1%|▌ | 85/12000 [00:19<43:49, 4.53it/s]
train loss:0.4310402816506273
1%|▌ | 86/12000 [00:19<43:46, 4.54it/s]
train loss:0.5200503872256048
1%|▌ | 87/12000 [00:20<43:53, 4.52it/s]
train loss:0.41523631150222884
1%|▌ | 88/12000 [00:20<43:50, 4.53it/s]
train loss:0.42825793262847617
1%|▌ | 89/12000 [00:20<44:04, 4.50it/s]
train loss:0.4547696950310796
1%|▌ | 90/12000 [00:20<44:16, 4.48it/s]
train loss:0.4683361687572307
1%|▌ | 91/12000 [00:20<44:22, 4.47it/s]
train loss:0.45869504366818176
1%|▌ | 92/12000 [00:21<43:58, 4.51it/s]
train loss:0.5093447459576693
1%|▌ | 93/12000 [00:21<44:06, 4.50it/s]
train loss:0.4818487997534164
1%|▌ | 94/12000 [00:21<44:03, 4.50it/s]
train loss:0.29607332635066913
1%|▋ | 95/12000 [00:21<43:53, 4.52it/s]
train loss:0.37233496936858507
1%|▋ | 96/12000 [00:22<44:24, 4.47it/s]
train loss:0.37450701469317677
1%|▋ | 97/12000 [00:22<44:11, 4.49it/s]
train loss:0.33570979539433293
1%|▋ | 98/12000 [00:22<44:11, 4.49it/s]
train loss:0.4819164403171597
1%|▋ | 99/12000 [00:22<44:18, 4.48it/s]
train loss:0.3060005610136226
1%|▋ | 100/12000 [00:22<44:59, 4.41it/s]
train loss:0.3483834928174933
1%|▋ | 101/12000 [00:23<44:09, 4.49it/s]
train loss:0.404667556104689
1%|▋ | 102/12000 [00:23<44:12, 4.49it/s]
train loss:0.3370895386807262
1%|▋ | 103/12000 [00:23<44:29, 4.46it/s]
train loss:0.4670720794556681
1%|▋ | 104/12000 [00:23<43:59, 4.51it/s]
train loss:0.40028164365380625
1%|▋ | 105/12000 [00:24<44:09, 4.49it/s]
train loss:0.34622061437866725
1%|▋ | 106/12000 [00:24<44:03, 4.50it/s]
train loss:0.23553505236645125
1%|▋ | 107/12000 [00:24<44:02, 4.50it/s]
train loss:0.3574682940351029
1%|▋ | 108/12000 [00:24<43:46, 4.53it/s]
train loss:0.28616851308286817
1%|▋ | 109/12000 [00:24<44:39, 4.44it/s]
train loss:0.38969601907558543
1%|▋ | 110/12000 [00:25<43:50, 4.52it/s]
train loss:0.34295173610389384
1%|▋ | 111/12000 [00:25<43:49, 4.52it/s]
train loss:0.49854507212986926
1%|▋ | 112/12000 [00:25<43:56, 4.51it/s]
train loss:0.3957961155312304
1%|▋ | 113/12000 [00:25<44:05, 4.49it/s]
train loss:0.4075804433913732
1%|▋ | 114/12000 [00:26<44:11, 4.48it/s]
train loss:0.30936695760226374
1%|▋ | 115/12000 [00:26<43:59, 4.50it/s]
train loss:0.4236613238698856
1%|▊ | 116/12000 [00:26<43:31, 4.55it/s]
train loss:0.29735547149222613
1%|▊ | 117/12000 [00:26<44:09, 4.49it/s]
train loss:0.3594747088703801
1%|▊ | 118/12000 [00:26<43:56, 4.51it/s]
train loss:0.44887375236247556
1%|▊ | 119/12000 [00:27<43:47, 4.52it/s]
train loss:0.3120337312239232
1%|▊ | 120/12000 [00:27<44:44, 4.42it/s]
train loss:0.23876981266211866
1%|▊ | 121/12000 [00:27<44:17, 4.47it/s]
train loss:0.3305257021845635
1%|▊ | 122/12000 [00:27<45:02, 4.40it/s]
train loss:0.32573300760925755
1%|▊ | 123/12000 [00:28<44:26, 4.45it/s]
train loss:0.3687450260710818
1%|▊ | 124/12000 [00:28<44:16, 4.47it/s]
train loss:0.3559200199294283
1%|▊ | 125/12000 [00:28<44:08, 4.48it/s]
train loss:0.30698157647282737
1%|▊ | 126/12000 [00:28<43:58, 4.50it/s]
train loss:0.2868791906609274
1%|▊ | 127/12000 [00:29<44:20, 4.46it/s]
train loss:0.4534572134666501
1%|▊ | 128/12000 [00:29<43:36, 4.54it/s]
train loss:0.4088215523029386
1%|▊ | 129/12000 [00:29<43:44, 4.52it/s]
train loss:0.24956448562486258
1%|▊ | 130/12000 [00:29<43:34, 4.54it/s]
train loss:0.22323435432354383
1%|▊ | 131/12000 [00:29<44:00, 4.49it/s]
train loss:0.40265448524958763
1%|▊ | 132/12000 [00:30<43:46, 4.52it/s]
train loss:0.2257635309689398
1%|▊ | 133/12000 [00:30<43:33, 4.54it/s]
train loss:0.5213577013122336
1%|▊ | 134/12000 [00:30<43:34, 4.54it/s]
train loss:0.2277450439290992
1%|▉ | 135/12000 [00:30<43:40, 4.53it/s]
train loss:0.313040933647979
1%|▉ | 136/12000 [00:30<43:47, 4.52it/s]
train loss:0.3204273481698043
1%|▉ | 137/12000 [00:31<43:58, 4.50it/s]
train loss:0.34936718936279954
1%|▉ | 138/12000 [00:31<43:51, 4.51it/s]
train loss:0.43928770474097384
1%|▉ | 139/12000 [00:31<43:53, 4.50it/s]
train loss:0.3033543566691799
1%|▉ | 140/12000 [00:31<44:16, 4.47it/s]
train loss:0.28316004999832073
1%|▉ | 141/12000 [00:32<43:56, 4.50it/s]
train loss:0.3740667832984484
1%|▉ | 142/12000 [00:32<43:43, 4.52it/s]
train loss:0.19663096242945433
1%|▉ | 143/12000 [00:32<44:11, 4.47it/s]
train loss:0.3822031392567366
1%|▉ | 144/12000 [00:32<44:04, 4.48it/s]
train loss:0.3971988934745136
1%|▉ | 145/12000 [00:33<44:23, 4.45it/s]
train loss:0.2803471090529607
1%|▉ | 146/12000 [00:33<44:12, 4.47it/s]
train loss:0.24928695578957277
1%|▉ | 147/12000 [00:33<44:31, 4.44it/s]
train loss:0.42731956682732
1%|▉ | 148/12000 [00:33<43:55, 4.50it/s]
train loss:0.24701097106309952
1%|▉ | 149/12000 [00:33<44:19, 4.46it/s]
train loss:0.22275951416967524
1%|▉ | 150/12000 [00:34<44:18, 4.46it/s]
train loss:0.4475345817825322
1%|▉ | 151/12000 [00:34<44:29, 4.44it/s]
train loss:0.2622738214845234
1%|▉ | 152/12000 [00:34<44:19, 4.46it/s]
train loss:0.2911865355789058
1%|▉ | 153/12000 [00:34<44:12, 4.47it/s]
train loss:0.45764655675710264
1%|█ | 154/12000 [00:35<44:31, 4.43it/s]
train loss:0.2490074802939791
1%|█ | 155/12000 [00:35<43:45, 4.51it/s]
train loss:0.519811889660136
1%|█ | 156/12000 [00:35<43:45, 4.51it/s]
train loss:0.31139662610200314
1%|█ | 157/12000 [00:35<43:43, 4.51it/s]
train loss:0.2425037496836123
1%|█ | 158/12000 [00:35<44:01, 4.48it/s]
train loss:0.3217975373823533
1%|█ | 159/12000 [00:36<43:56, 4.49it/s]
train loss:0.23287779836349842
1%|█ | 160/12000 [00:36<44:22, 4.45it/s]
train loss:0.2790794925689157
1%|█ | 161/12000 [00:36<43:55, 4.49it/s]
train loss:0.1786227883559074
1%|█ | 162/12000 [00:36<44:33, 4.43it/s]
train loss:0.3056595612496583
1%|█ | 163/12000 [00:37<43:38, 4.52it/s]
train loss:0.3045441243040836
1%|█ | 164/12000 [00:37<44:14, 4.46it/s]
train loss:0.23847510889779294
1%|█ | 165/12000 [00:37<44:02, 4.48it/s]
train loss:0.30955400635269614
1%|█ | 166/12000 [00:37<44:16, 4.46it/s]
train loss:0.4113166438763271
1%|█ | 167/12000 [00:37<44:25, 4.44it/s]
train loss:0.4009827456067111
1%|█ | 168/12000 [00:38<44:05, 4.47it/s]
train loss:0.34594782852032213
1%|█ | 169/12000 [00:38<44:04, 4.47it/s]
train loss:0.4290444222085146
1%|█ | 170/12000 [00:38<44:00, 4.48it/s]
train loss:0.3325679541428295
1%|█ | 171/12000 [00:38<43:50, 4.50it/s]
train loss:0.27394174083044126
1%|█ | 172/12000 [00:39<44:23, 4.44it/s]
train loss:0.21447922993211463
1%|█ | 173/12000 [00:39<43:46, 4.50it/s]
train loss:0.3290119309104497
1%|█▏ | 174/12000 [00:39<44:03, 4.47it/s]
train loss:0.35081685075046987
1%|█▏ | 175/12000 [00:39<44:22, 4.44it/s]
train loss:0.307094882870175
1%|█▏ | 176/12000 [00:39<44:14, 4.45it/s]
train loss:0.18186012029899867
1%|█▏ | 177/12000 [00:40<43:54, 4.49it/s]
train loss:0.18348060100399977
1%|█▏ | 178/12000 [00:40<43:52, 4.49it/s]
train loss:0.306285413406153
1%|█▏ | 179/12000 [00:40<43:59, 4.48it/s]
train loss:0.254764205083611
2%|█▏ | 180/12000 [00:40<44:16, 4.45it/s]
train loss:0.24037499516985014
2%|█▏ | 181/12000 [00:41<44:12, 4.46it/s]
train loss:0.3720293697349376
2%|█▏ | 182/12000 [00:41<43:44, 4.50it/s]
train loss:0.3626873606852332
2%|█▏ | 183/12000 [00:41<43:56, 4.48it/s]
train loss:0.3787412241993236
2%|█▏ | 184/12000 [00:41<44:29, 4.43it/s]
train loss:0.2907896729366938
2%|█▏ | 185/12000 [00:41<44:00, 4.48it/s]
train loss:0.3330200476010818
2%|█▏ | 186/12000 [00:42<43:40, 4.51it/s]
train loss:0.2554998557390742
2%|█▏ | 187/12000 [00:42<44:36, 4.41it/s]
train loss:0.21966073390642762
2%|█▏ | 188/12000 [00:42<45:32, 4.32it/s]
train loss:0.2784798465928461
2%|█▏ | 189/12000 [00:42<45:37, 4.31it/s]
train loss:0.2951545823882952
2%|█▏ | 190/12000 [00:43<45:15, 4.35it/s]
train loss:0.22331106616761104
2%|█▏ | 191/12000 [00:43<44:42, 4.40it/s]
train loss:0.4245739595603697
2%|█▏ | 192/12000 [00:43<45:02, 4.37it/s]
train loss:0.27140877378585193
2%|█▎ | 193/12000 [00:43<44:35, 4.41it/s]
train loss:0.42702796457080744
2%|█▎ | 194/12000 [00:44<44:48, 4.39it/s]
train loss:0.44443801892100526
2%|█▎ | 195/12000 [00:44<43:55, 4.48it/s]
train loss:0.3777015425532564
2%|█▎ | 196/12000 [00:44<43:50, 4.49it/s]
train loss:0.34109222981753085
2%|█▎ | 197/12000 [00:44<44:14, 4.45it/s]
train loss:0.20062042317729753
2%|█▎ | 198/12000 [00:44<44:16, 4.44it/s]
train loss:0.4507231660810212
2%|█▎ | 199/12000 [00:45<43:57, 4.47it/s]
train loss:0.3230219088651509
2%|█▎ | 200/12000 [00:45<43:45, 4.49it/s]
train loss:0.16971119715959873
2%|█▎ | 201/12000 [00:45<43:35, 4.51it/s]
train loss:0.2263727407387522
2%|█▎ | 202/12000 [00:45<43:50, 4.49it/s]
train loss:0.3650644393013455
2%|█▎ | 203/12000 [00:46<43:49, 4.49it/s]
train loss:0.24169804421818974
2%|█▎ | 204/12000 [00:46<43:20, 4.54it/s]
train loss:0.48797000503667604
2%|█▎ | 205/12000 [00:46<43:38, 4.50it/s]
train loss:0.1644498647643916
2%|█▎ | 206/12000 [00:46<43:53, 4.48it/s]
train loss:0.26723591297923166
2%|█▎ | 207/12000 [00:46<44:12, 4.45it/s]
train loss:0.35264695872798435
2%|█▎ | 208/12000 [00:47<43:57, 4.47it/s]
train loss:0.16401156809209946
2%|█▎ | 209/12000 [00:47<43:32, 4.51it/s]
train loss:0.31705238429523663
2%|█▎ | 210/12000 [00:47<44:06, 4.46it/s]
train loss:0.3676713054919688
2%|█▎ | 211/12000 [00:47<43:46, 4.49it/s]
train loss:0.33393593386927
2%|█▍ | 212/12000 [00:48<44:36, 4.40it/s]
train loss:0.1913533231825385
2%|█▍ | 213/12000 [00:48<43:45, 4.49it/s]
train loss:0.27416448405101973
2%|█▍ | 214/12000 [00:48<43:57, 4.47it/s]
train loss:0.36289669542749464
2%|█▍ | 215/12000 [00:48<44:00, 4.46it/s]
train loss:0.38807364885411255
2%|█▍ | 216/12000 [00:48<43:40, 4.50it/s]
train loss:0.25739075299902636
2%|█▍ | 217/12000 [00:49<44:16, 4.44it/s]
train loss:0.347188695638663
2%|█▍ | 218/12000 [00:49<44:25, 4.42it/s]
train loss:0.1889576335769934
2%|█▍ | 219/12000 [00:49<44:25, 4.42it/s]
train loss:0.2917367515832616
2%|█▍ | 220/12000 [00:49<44:10, 4.44it/s]
train loss:0.1796613879642489
2%|█▍ | 221/12000 [00:50<44:14, 4.44it/s]
train loss:0.1896584322661569
2%|█▍ | 222/12000 [00:50<43:32, 4.51it/s]
train loss:0.26065554155086723
2%|█▍ | 223/12000 [00:50<43:53, 4.47it/s]
train loss:0.34111434811859875
2%|█▍ | 224/12000 [00:50<43:49, 4.48it/s]
train loss:0.26529997683324813
2%|█▍ | 225/12000 [00:50<44:06, 4.45it/s]
train loss:0.36604479749351526
2%|█▍ | 226/12000 [00:51<43:58, 4.46it/s]
train loss:0.22558726010153318
2%|█▍ | 227/12000 [00:51<43:44, 4.49it/s]
train loss:0.4026373538642241
2%|█▍ | 228/12000 [00:51<44:23, 4.42it/s]
train loss:0.28949155336794097
2%|█▍ | 229/12000 [00:51<44:20, 4.42it/s]
train loss:0.3142802615556948
2%|█▍ | 230/12000 [00:52<44:18, 4.43it/s]
train loss:0.18697417869024416
2%|█▌ | 231/12000 [00:52<45:58, 4.27it/s]
train loss:0.3107800063048919
2%|█▌ | 232/12000 [00:52<45:56, 4.27it/s]
train loss:0.21862097171447822
2%|█▌ | 233/12000 [00:52<45:39, 4.30it/s]
train loss:0.1767989677189585
2%|█▌ | 234/12000 [00:53<45:16, 4.33it/s]
train loss:0.27819306478782285
2%|█▌ | 235/12000 [00:53<44:24, 4.42it/s]
train loss:0.2483421844975296
2%|█▌ | 236/12000 [00:53<44:19, 4.42it/s]
train loss:0.36562524707678745
2%|█▌ | 237/12000 [00:53<44:10, 4.44it/s]
train loss:0.3467464694139308
2%|█▌ | 238/12000 [00:53<44:27, 4.41it/s]
train loss:0.1660883493135281
2%|█▌ | 239/12000 [00:54<43:57, 4.46it/s]
train loss:0.16243125671791303
2%|█▌ | 240/12000 [00:54<44:15, 4.43it/s]
train loss:0.24095963921101815
2%|█▌ | 241/12000 [00:54<44:32, 4.40it/s]
train loss:0.2696767967181665
2%|█▌ | 242/12000 [00:54<44:08, 4.44it/s]
train loss:0.3382557407377104
2%|█▌ | 243/12000 [00:55<44:23, 4.41it/s]
train loss:0.30431893217515815
2%|█▌ | 244/12000 [00:55<43:48, 4.47it/s]
train loss:0.334692763803511
2%|█▌ | 245/12000 [00:55<43:36, 4.49it/s]
train loss:0.2514725529588154
2%|█▌ | 246/12000 [00:55<43:31, 4.50it/s]
train loss:0.14459213187491618
2%|█▌ | 247/12000 [00:55<44:04, 4.44it/s]
train loss:0.4000950714826495
2%|█▌ | 248/12000 [00:56<43:33, 4.50it/s]
train loss:0.2542571148906774
2%|█▌ | 249/12000 [00:56<43:18, 4.52it/s]
train loss:0.5493616951197778
2%|█▋ | 250/12000 [00:56<43:58, 4.45it/s]
train loss:0.16569128212050013
2%|█▋ | 251/12000 [00:56<44:06, 4.44it/s]
train loss:0.2899039138012137
2%|█▋ | 252/12000 [00:57<44:12, 4.43it/s]
train loss:0.2545301111572188
2%|█▋ | 253/12000 [00:57<43:45, 4.47it/s]
train loss:0.4073323479383564
2%|█▋ | 254/12000 [00:57<43:53, 4.46it/s]
train loss:0.2058040302149036
2%|█▋ | 255/12000 [00:57<43:50, 4.47it/s]
train loss:0.25550100284896893
2%|█▋ | 256/12000 [00:57<44:01, 4.45it/s]
train loss:0.20037153483206116
2%|█▋ | 257/12000 [00:58<43:33, 4.49it/s]
train loss:0.34571399736345854
2%|█▋ | 258/12000 [00:58<43:21, 4.51it/s]
train loss:0.20007249445048167
2%|█▋ | 259/12000 [00:58<43:31, 4.50it/s]
train loss:0.21484671005488148
2%|█▋ | 260/12000 [00:58<44:34, 4.39it/s]
train loss:0.34440828131705087
2%|█▋ | 261/12000 [00:59<46:39, 4.19it/s]
train loss:0.30734475700135544
2%|█▋ | 262/12000 [00:59<45:37, 4.29it/s]
train loss:0.23158530106147887
2%|█▋ | 263/12000 [00:59<44:55, 4.35it/s]
train loss:0.2747650141987797
2%|█▋ | 264/12000 [00:59<44:37, 4.38it/s]
train loss:0.4060207372327946
2%|█▋ | 265/12000 [00:59<44:39, 4.38it/s]
train loss:0.29662377403432655
2%|█▋ | 266/12000 [01:00<43:43, 4.47it/s]
train loss:0.29457439430747706
2%|█▋ | 267/12000 [01:00<43:46, 4.47it/s]
train loss:0.2588423029069403
2%|█▋ | 268/12000 [01:00<43:48, 4.46it/s]
train loss:0.47311026936498135
2%|█▋ | 269/12000 [01:00<43:50, 4.46it/s]
train loss:0.16046247720969933
2%|█▊ | 270/12000 [01:01<43:36, 4.48it/s]
train loss:0.24121844662682715
2%|█▊ | 271/12000 [01:01<43:28, 4.50it/s]
train loss:0.23315323243926525
2%|█▊ | 272/12000 [01:01<43:20, 4.51it/s]
train loss:0.23296188163554463
2%|█▊ | 273/12000 [01:01<43:28, 4.49it/s]
train loss:0.30787274512369434
2%|█▊ | 274/12000 [01:02<44:01, 4.44it/s]
train loss:0.2012709087215623
2%|█▊ | 275/12000 [01:02<43:14, 4.52it/s]
train loss:0.23491301465990339
2%|█▊ | 276/12000 [01:02<43:20, 4.51it/s]
train loss:0.4146043803108696
2%|█▊ | 277/12000 [01:02<43:01, 4.54it/s]
train loss:0.3320201276506387
2%|█▊ | 278/12000 [01:02<43:24, 4.50it/s]
train loss:0.30282019948460037
2%|█▊ | 279/12000 [01:03<43:28, 4.49it/s]
train loss:0.24993270991556352
2%|█▊ | 280/12000 [01:03<43:26, 4.50it/s]
train loss:0.1909501946089251
2%|█▊ | 281/12000 [01:03<43:42, 4.47it/s]
train loss:0.2906404438358653
2%|█▊ | 282/12000 [01:03<43:34, 4.48it/s]
train loss:0.17695321759098434
2%|█▊ | 283/12000 [01:04<43:55, 4.45it/s]
train loss:0.2683516082848431
2%|█▊ | 284/12000 [01:04<43:10, 4.52it/s]
train loss:0.3308310078465485
2%|█▊ | 285/12000 [01:04<43:26, 4.50it/s]
train loss:0.29498050157744615
2%|█▊ | 286/12000 [01:04<43:18, 4.51it/s]
train loss:0.1852011778147899
2%|█▊ | 287/12000 [01:04<43:40, 4.47it/s]
train loss:0.16325134025647048
2%|█▊ | 288/12000 [01:05<43:16, 4.51it/s]
train loss:0.2802927008147119
2%|█▉ | 289/12000 [01:05<43:28, 4.49it/s]
train loss:0.16197239306716518
2%|█▉ | 290/12000 [01:05<44:16, 4.41it/s]
train loss:0.38039173013131344
2%|█▉ | 291/12000 [01:05<44:22, 4.40it/s]
train loss:0.18478720294148457
2%|█▉ | 292/12000 [01:06<44:20, 4.40it/s]
train loss:0.23361005012006664
2%|█▉ | 293/12000 [01:06<43:35, 4.48it/s]
train loss:0.1539141149423513
2%|█▉ | 294/12000 [01:06<43:37, 4.47it/s]
train loss:0.2105039217648316
2%|█▉ | 295/12000 [01:06<43:44, 4.46it/s]
train loss:0.316869961055435
2%|█▉ | 296/12000 [01:06<43:52, 4.45it/s]
train loss:0.22422113563707458
2%|█▉ | 297/12000 [01:07<43:45, 4.46it/s]
train loss:0.2032441220232976
2%|█▉ | 298/12000 [01:07<43:30, 4.48it/s]
train loss:0.30793365540342943
2%|█▉ | 299/12000 [01:07<43:21, 4.50it/s]
train loss:0.3283239890537317
2%|█▉ | 300/12000 [01:07<43:50, 4.45it/s]
train loss:0.2750684169860156
3%|█▉ | 301/12000 [01:08<44:03, 4.43it/s]
train loss:0.30637890316791255
3%|█▉ | 302/12000 [01:08<43:51, 4.45it/s]
train loss:0.18645202969605798
3%|█▉ | 303/12000 [01:08<44:10, 4.41it/s]
train loss:0.3853559665877213
3%|█▉ | 304/12000 [01:08<44:23, 4.39it/s]
train loss:0.43717502858259316
3%|█▉ | 305/12000 [01:08<44:13, 4.41it/s]
train loss:0.19385675981470427
3%|█▉ | 306/12000 [01:09<43:23, 4.49it/s]
train loss:0.1675973599843211
3%|█▉ | 307/12000 [01:09<44:00, 4.43it/s]
train loss:0.21006070067553473
3%|██ | 308/12000 [01:09<44:18, 4.40it/s]
train loss:0.2182419707749807
3%|██ | 309/12000 [01:09<44:12, 4.41it/s]
train loss:0.2496129424284239
3%|██ | 310/12000 [01:10<44:00, 4.43it/s]
train loss:0.25704919750087407
3%|██ | 311/12000 [01:10<43:21, 4.49it/s]
train loss:0.18220453482488103
3%|██ | 312/12000 [01:10<43:44, 4.45it/s]
train loss:0.18684931453920822
3%|██ | 313/12000 [01:10<43:51, 4.44it/s]
train loss:0.19408383669361323
3%|██ | 314/12000 [01:10<43:57, 4.43it/s]
train loss:0.17142372612843038
3%|██ | 315/12000 [01:11<43:33, 4.47it/s]
train loss:0.22804274584216316
3%|██ | 317/12000 [01:11<43:07, 4.52it/s]
train loss:0.2518658221299878 train loss:0.1767384418049504
3%|██ | 318/12000 [01:11<44:22, 4.39it/s]
train loss:0.0957411745803668
3%|██ | 319/12000 [01:12<43:59, 4.43it/s]
train loss:0.16436111078978982
3%|██ | 320/12000 [01:12<44:08, 4.41it/s]
train loss:0.22604398945440463
3%|██ | 321/12000 [01:12<44:19, 4.39it/s]
train loss:0.13278718137681625
3%|██ | 322/12000 [01:12<44:18, 4.39it/s]
train loss:0.27887627104824414
3%|██ | 323/12000 [01:13<44:32, 4.37it/s]
train loss:0.17235162261159162
3%|██ | 324/12000 [01:13<43:31, 4.47it/s]
train loss:0.2100754073101668
3%|██ | 325/12000 [01:13<43:57, 4.43it/s]
train loss:0.28222166739633325
3%|██ | 326/12000 [01:13<43:44, 4.45it/s]
train loss:0.19443257726065652
3%|██▏ | 327/12000 [01:13<44:08, 4.41it/s]
train loss:0.11217583123810178
3%|██▏ | 328/12000 [01:14<43:55, 4.43it/s]
train loss:0.1755668645819475
3%|██▏ | 329/12000 [01:14<43:51, 4.44it/s]
train loss:0.17209040284510366
3%|██▏ | 330/12000 [01:14<45:54, 4.24it/s]
train loss:0.049157081201079394
3%|██▏ | 331/12000 [01:14<45:16, 4.30it/s]
train loss:0.25481728647301916
3%|██▏ | 332/12000 [01:15<44:55, 4.33it/s]
train loss:0.1677915080793796
3%|██▏ | 333/12000 [01:15<44:17, 4.39it/s]
train loss:0.12916046974407927
3%|██▏ | 334/12000 [01:15<44:01, 4.42it/s]
train loss:0.14773023812124697
3%|██▏ | 335/12000 [01:15<44:21, 4.38it/s]
train loss:0.2522634264074244
3%|██▏ | 336/12000 [01:16<46:06, 4.22it/s]
train loss:0.18743099382445805
3%|██▏ | 337/12000 [01:16<44:57, 4.32it/s]
train loss:0.14194123016390664
3%|██▏ | 338/12000 [01:16<44:28, 4.37it/s]
train loss:0.27156188470659176
3%|██▏ | 339/12000 [01:16<43:50, 4.43it/s]
train loss:0.2020861161097331
3%|██▏ | 340/12000 [01:16<44:08, 4.40it/s]
train loss:0.21768768974989436
3%|██▏ | 341/12000 [01:17<43:42, 4.45it/s]
train loss:0.2521954797303514
3%|██▏ | 342/12000 [01:17<43:36, 4.46it/s]
train loss:0.1826769933768711
3%|██▏ | 343/12000 [01:17<43:18, 4.49it/s]
train loss:0.21992884728563644
3%|██▏ | 344/12000 [01:17<43:23, 4.48it/s]
train loss:0.24973527481277424
3%|██▏ | 345/12000 [01:18<43:50, 4.43it/s]
train loss:0.37002716755146914
3%|██▏ | 346/12000 [01:18<43:10, 4.50it/s]
train loss:0.22612905162278701
3%|██▎ | 347/12000 [01:18<42:59, 4.52it/s]
train loss:0.18662923180656424
3%|██▎ | 348/12000 [01:18<43:35, 4.45it/s]
train loss:0.12138097691067508
3%|██▎ | 349/12000 [01:18<43:13, 4.49it/s]
train loss:0.21121270859296298
3%|██▎ | 350/12000 [01:19<43:22, 4.48it/s]
train loss:0.17787638553950483
3%|██▎ | 351/12000 [01:19<43:11, 4.49it/s]
train loss:0.3613222225341763
3%|██▎ | 352/12000 [01:19<43:16, 4.49it/s]
train loss:0.1816363756829915
3%|██▎ | 353/12000 [01:19<43:20, 4.48it/s]
train loss:0.2629455192360863
3%|██▎ | 354/12000 [01:20<43:23, 4.47it/s]
train loss:0.13321950171969824
3%|██▎ | 355/12000 [01:20<42:49, 4.53it/s]
train loss:0.2516151416874918
3%|██▎ | 356/12000 [01:20<43:03, 4.51it/s]
train loss:0.3846839351321797
3%|██▎ | 357/12000 [01:20<43:15, 4.49it/s]
train loss:0.053178818905230324
3%|██▎ | 358/12000 [01:20<43:09, 4.50it/s]
train loss:0.2310122171021924
3%|██▎ | 359/12000 [01:21<43:12, 4.49it/s]
train loss:0.2914089641589717
3%|██▎ | 360/12000 [01:21<43:12, 4.49it/s]
train loss:0.27024710766413973
3%|██▎ | 361/12000 [01:21<43:05, 4.50it/s]
train loss:0.1512578080658442
3%|██▎ | 362/12000 [01:21<43:28, 4.46it/s]
train loss:0.29682789597353115
3%|██▎ | 363/12000 [01:22<43:38, 4.44it/s]
train loss:0.22639154445326054
3%|██▎ | 364/12000 [01:22<43:07, 4.50it/s]
train loss:0.16276484022363216
3%|██▎ | 365/12000 [01:22<42:58, 4.51it/s]
train loss:0.08571411618892427
3%|██▍ | 366/12000 [01:22<43:29, 4.46it/s]
train loss:0.11210343462317793
3%|██▍ | 367/12000 [01:22<43:16, 4.48it/s]
train loss:0.24651675183257848
3%|██▍ | 368/12000 [01:23<43:14, 4.48it/s]
train loss:0.08632139371034389
3%|██▍ | 369/12000 [01:23<43:05, 4.50it/s]
train loss:0.31702891329280564
3%|██▍ | 370/12000 [01:23<43:21, 4.47it/s]
train loss:0.3523588782409805
3%|██▍ | 371/12000 [01:23<43:31, 4.45it/s]
train loss:0.26760387728805585
3%|██▍ | 372/12000 [01:24<43:42, 4.43it/s]
train loss:0.1808343724129544
3%|██▍ | 373/12000 [01:24<43:24, 4.46it/s]
train loss:0.20894983395103917
3%|██▍ | 374/12000 [01:24<43:10, 4.49it/s]
train loss:0.3191437069924162
3%|██▍ | 375/12000 [01:24<43:52, 4.42it/s]
train loss:0.20972637795701415
3%|██▍ | 377/12000 [01:25<42:42, 4.54it/s]
train loss:0.18741953554482932 train loss:0.3301219449264851
3%|██▍ | 378/12000 [01:25<43:03, 4.50it/s]
train loss:0.1999757848602441
3%|██▍ | 379/12000 [01:25<43:32, 4.45it/s]
train loss:0.1599495120053252
3%|██▍ | 380/12000 [01:25<43:32, 4.45it/s]
train loss:0.1223903400636513
3%|██▍ | 381/12000 [01:26<43:35, 4.44it/s]
train loss:0.2081428174211905
3%|██▍ | 382/12000 [01:26<43:15, 4.48it/s]
train loss:0.29023807973534144
3%|██▍ | 383/12000 [01:26<43:06, 4.49it/s]
train loss:0.15088662041400772
3%|██▍ | 384/12000 [01:26<43:27, 4.45it/s]
train loss:0.2870890321724772
3%|██▌ | 385/12000 [01:26<43:15, 4.47it/s]
train loss:0.10750016847929991
3%|██▌ | 386/12000 [01:27<42:55, 4.51it/s]
train loss:0.21518037183463562
3%|██▌ | 387/12000 [01:27<43:03, 4.50it/s]
train loss:0.18196646382811213
3%|██▌ | 388/12000 [01:27<43:12, 4.48it/s]
train loss:0.2052034371586445
3%|██▌ | 389/12000 [01:27<43:18, 4.47it/s]
train loss:0.12431979263619664
3%|██▌ | 390/12000 [01:28<43:24, 4.46it/s]
train loss:0.10224819457523696
3%|██▌ | 391/12000 [01:28<43:08, 4.48it/s]
train loss:0.19019358103198855
3%|██▌ | 392/12000 [01:28<43:01, 4.50it/s]
train loss:0.2040652021183402
3%|██▌ | 393/12000 [01:28<43:27, 4.45it/s]
train loss:0.08789426094810109
3%|██▌ | 394/12000 [01:28<43:15, 4.47it/s]
train loss:0.2761157144575472
3%|██▌ | 395/12000 [01:29<43:15, 4.47it/s]
train loss:0.28540562710753953
3%|██▌ | 396/12000 [01:29<43:49, 4.41it/s]
train loss:0.14594216963004944
3%|██▌ | 397/12000 [01:29<43:39, 4.43it/s]
train loss:0.14380787451792024
3%|██▌ | 398/12000 [01:29<44:56, 4.30it/s]
train loss:0.29732225042889415
3%|██▌ | 399/12000 [01:30<44:06, 4.38it/s]
train loss:0.23805940015745292
3%|██▌ | 400/12000 [01:30<44:08, 4.38it/s]
train loss:0.16776969687883406
3%|██▌ | 401/12000 [01:30<43:54, 4.40it/s]
train loss:0.3029969213432273
3%|██▌ | 402/12000 [01:30<43:55, 4.40it/s]
train loss:0.18255792414685115
3%|██▌ | 403/12000 [01:31<44:05, 4.38it/s]
train loss:0.2625093569619502
3%|██▋ | 404/12000 [01:31<43:13, 4.47it/s]
train loss:0.27643174983456403
3%|██▋ | 405/12000 [01:31<43:18, 4.46it/s]
train loss:0.23023974217525633
3%|██▋ | 406/12000 [01:31<43:20, 4.46it/s]
train loss:0.21429701061556805
3%|██▋ | 407/12000 [01:31<43:19, 4.46it/s]
train loss:0.25527769779369086
3%|██▋ | 408/12000 [01:32<42:47, 4.51it/s]
train loss:0.27189265244842264
3%|██▋ | 409/12000 [01:32<42:45, 4.52it/s]
train loss:0.23170150045792537
3%|██▋ | 410/12000 [01:32<43:17, 4.46it/s]
train loss:0.18058904294866937
3%|██▋ | 411/12000 [01:32<43:18, 4.46it/s]
train loss:0.20057856741915342
3%|██▋ | 412/12000 [01:33<43:16, 4.46it/s]
train loss:0.1647376102913313
3%|██▋ | 413/12000 [01:33<42:51, 4.51it/s]
train loss:0.2011165162757954
3%|██▋ | 414/12000 [01:33<43:06, 4.48it/s]
train loss:0.19853176015279098
3%|██▋ | 415/12000 [01:33<43:13, 4.47it/s]
train loss:0.16320636803169236
3%|██▋ | 416/12000 [01:33<42:52, 4.50it/s]
train loss:0.2989688491641884
3%|██▋ | 417/12000 [01:34<43:13, 4.47it/s]
train loss:0.14442565792543585
3%|██▋ | 418/12000 [01:34<43:01, 4.49it/s]
train loss:0.21716812674454236
3%|██▋ | 419/12000 [01:34<43:27, 4.44it/s]
train loss:0.19828945410206067
4%|██▋ | 420/12000 [01:34<43:15, 4.46it/s]
train loss:0.24638487655582267
4%|██▋ | 421/12000 [01:35<43:44, 4.41it/s]
train loss:0.0927789571836032
4%|██▋ | 422/12000 [01:35<43:16, 4.46it/s]
train loss:0.26477973573817076
4%|██▋ | 423/12000 [01:35<43:50, 4.40it/s]
train loss:0.20196347424971653
4%|██▊ | 424/12000 [01:35<43:56, 4.39it/s]
train loss:0.1962615313853856
4%|██▊ | 425/12000 [01:35<43:48, 4.40it/s]
train loss:0.24160802098610218
4%|██▊ | 426/12000 [01:36<43:15, 4.46it/s]
train loss:0.182958797831387
4%|██▊ | 427/12000 [01:36<43:15, 4.46it/s]
train loss:0.23124445072497557
4%|██▊ | 428/12000 [01:36<43:29, 4.43it/s]
train loss:0.21701898765090155
4%|██▊ | 429/12000 [01:36<43:21, 4.45it/s]
train loss:0.16871192912145969
4%|██▊ | 430/12000 [01:37<43:22, 4.45it/s]
train loss:0.11466061199986045
4%|██▊ | 431/12000 [01:37<43:27, 4.44it/s]
train loss:0.14483497527020325
4%|██▊ | 432/12000 [01:37<43:33, 4.43it/s]
train loss:0.15582017125358244
4%|██▊ | 433/12000 [01:37<43:32, 4.43it/s]
train loss:0.1787708332566603
4%|██▊ | 434/12000 [01:37<43:34, 4.42it/s]
train loss:0.2093769406343331
4%|██▊ | 435/12000 [01:38<43:00, 4.48it/s]
train loss:0.18949121637695504
4%|██▊ | 436/12000 [01:38<43:39, 4.41it/s]
train loss:0.20696562139268893
4%|██▊ | 437/12000 [01:38<43:35, 4.42it/s]
train loss:0.1274434567004475
4%|██▊ | 438/12000 [01:38<43:34, 4.42it/s]
train loss:0.14777542279871386
4%|██▊ | 439/12000 [01:39<43:50, 4.40it/s]
train loss:0.28638837220661356
4%|██▊ | 440/12000 [01:39<43:14, 4.46it/s]
train loss:0.14652886225113948
4%|██▊ | 441/12000 [01:39<43:30, 4.43it/s]
train loss:0.13164371368235026
4%|██▊ | 442/12000 [01:39<43:56, 4.38it/s]
train loss:0.2834176577629674
4%|██▉ | 443/12000 [01:40<44:25, 4.34it/s]
train loss:0.1538931024552377
4%|██▉ | 444/12000 [01:40<44:46, 4.30it/s]
train loss:0.14464763204762943
4%|██▉ | 445/12000 [01:40<44:59, 4.28it/s]
train loss:0.2324391358285915
4%|██▉ | 446/12000 [01:40<44:51, 4.29it/s]
train loss:0.1332741146542169
4%|██▉ | 447/12000 [01:40<44:32, 4.32it/s]
train loss:0.1581824020851978
4%|██▉ | 448/12000 [01:41<43:24, 4.44it/s]
train loss:0.14512507147947132
4%|██▉ | 449/12000 [01:41<43:24, 4.43it/s]
train loss:0.16953750596351075
4%|██▉ | 450/12000 [01:41<43:48, 4.39it/s]
train loss:0.13327519279053024
4%|██▉ | 451/12000 [01:41<43:42, 4.40it/s]
train loss:0.20034632767698782
4%|██▉ | 452/12000 [01:42<43:32, 4.42it/s]
train loss:0.1294764032833099
4%|██▉ | 453/12000 [01:42<43:26, 4.43it/s]
train loss:0.2535629775311506
4%|██▉ | 454/12000 [01:42<43:11, 4.46it/s]
train loss:0.23276865023326032
4%|██▉ | 455/12000 [01:42<43:37, 4.41it/s]
train loss:0.09631088361186593
4%|██▉ | 456/12000 [01:42<43:58, 4.37it/s]
train loss:0.24311344374240282
4%|██▉ | 457/12000 [01:43<43:14, 4.45it/s]
train loss:0.14019289161244206
4%|██▉ | 458/12000 [01:43<43:20, 4.44it/s]
train loss:0.15480923377636369
4%|██▉ | 459/12000 [01:43<43:23, 4.43it/s]
train loss:0.22791380648624193
4%|██▉ | 460/12000 [01:43<43:40, 4.40it/s]
train loss:0.12409645830504658
4%|██▉ | 461/12000 [01:44<43:30, 4.42it/s]
train loss:0.178686858445937
4%|███ | 462/12000 [01:44<45:12, 4.25it/s]
train loss:0.1917240478311293
4%|███ | 463/12000 [01:44<44:55, 4.28it/s]
train loss:0.1593008981030436
4%|███ | 464/12000 [01:44<44:22, 4.33it/s]
train loss:0.10132001814987537
4%|███ | 465/12000 [01:45<44:24, 4.33it/s]
train loss:0.2866256316424992
4%|███ | 466/12000 [01:45<43:55, 4.38it/s]
train loss:0.2706086344602814
4%|███ | 467/12000 [01:45<43:58, 4.37it/s]
train loss:0.18614789246984645
4%|███ | 468/12000 [01:45<44:10, 4.35it/s]
train loss:0.18077815557138013
4%|███ | 469/12000 [01:45<44:14, 4.34it/s]
train loss:0.13828941629418884
4%|███ | 470/12000 [01:46<43:47, 4.39it/s]
train loss:0.23830893539906078
4%|███ | 471/12000 [01:46<43:56, 4.37it/s]
train loss:0.19931798450348306
4%|███ | 472/12000 [01:46<44:00, 4.37it/s]
train loss:0.21877316653367618
4%|███ | 473/12000 [01:46<43:53, 4.38it/s]
train loss:0.15971836105865023
4%|███ | 474/12000 [01:47<43:34, 4.41it/s]
train loss:0.1360782834394695
4%|███ | 475/12000 [01:47<43:32, 4.41it/s]
train loss:0.19505353290449526
4%|███ | 476/12000 [01:47<43:24, 4.42it/s]
train loss:0.13224656865245815
4%|███ | 477/12000 [01:47<43:10, 4.45it/s]
train loss:0.11686795064622155
4%|███ | 478/12000 [01:47<43:41, 4.40it/s]
train loss:0.10014367842516232
4%|███ | 479/12000 [01:48<43:08, 4.45it/s]
train loss:0.21066341461115712
4%|███ | 480/12000 [01:48<43:19, 4.43it/s]
train loss:0.07250792220986967
4%|███▏ | 481/12000 [01:48<43:26, 4.42it/s]
train loss:0.11503035795524118
4%|███▏ | 482/12000 [01:48<46:07, 4.16it/s]
train loss:0.2108016426378708
4%|███▏ | 483/12000 [01:49<48:07, 3.99it/s]
train loss:0.10363870121694502
4%|███▏ | 484/12000 [01:49<49:41, 3.86it/s]
train loss:0.12357383882976233
4%|███▏ | 485/12000 [01:49<50:33, 3.80it/s]
train loss:0.11045362369597242
4%|███▏ | 486/12000 [01:50<50:55, 3.77it/s]
train loss:0.12772845421164583
4%|███▏ | 487/12000 [01:50<48:28, 3.96it/s]
train loss:0.12206613788202798
4%|███▏ | 488/12000 [01:50<49:26, 3.88it/s]
train loss:0.18897630267646978
4%|███▏ | 489/12000 [01:50<50:50, 3.77it/s]
train loss:0.14929904737199554
4%|███▏ | 490/12000 [01:51<51:24, 3.73it/s]
train loss:0.17112446895699324
4%|███▏ | 491/12000 [01:51<48:33, 3.95it/s]
train loss:0.21936135090530054
4%|███▏ | 492/12000 [01:51<46:49, 4.10it/s]
train loss:0.09318056956164236
4%|███▏ | 493/12000 [01:51<45:52, 4.18it/s]
train loss:0.25599246382331453
4%|███▏ | 494/12000 [01:51<45:29, 4.22it/s]
train loss:0.20651591441743444
4%|███▏ | 495/12000 [01:52<46:55, 4.09it/s]
train loss:0.09511256549204555
4%|███▏ | 496/12000 [01:52<46:24, 4.13it/s]
train loss:0.0897995823254985
4%|███▏ | 497/12000 [01:52<45:57, 4.17it/s]
train loss:0.17370756326214137
4%|███▏ | 498/12000 [01:52<45:14, 4.24it/s]
train loss:0.07619026146217793
4%|███▏ | 499/12000 [01:53<44:31, 4.31it/s]
train loss:0.1981140666642073
4%|███▎ | 500/12000 [01:53<43:56, 4.36it/s]
train loss:0.08493107085776058
4%|███▎ | 501/12000 [01:53<47:06, 4.07it/s]
train loss:0.13968974784499014
4%|███▎ | 502/12000 [01:53<46:03, 4.16it/s]
train loss:0.18263409823374072
4%|███▎ | 503/12000 [01:54<44:58, 4.26it/s]
train loss:0.1538577585552312
4%|███▎ | 504/12000 [01:54<44:52, 4.27it/s]
train loss:0.1875039160445446
4%|███▎ | 505/12000 [01:54<44:26, 4.31it/s]
train loss:0.1084794614888699
4%|███▎ | 506/12000 [01:54<43:51, 4.37it/s]
train loss:0.19699395087908259
4%|███▎ | 507/12000 [01:55<44:05, 4.34it/s]
train loss:0.1306633749802696
4%|███▎ | 508/12000 [01:55<43:25, 4.41it/s]
train loss:0.19391777534764618
4%|███▎ | 509/12000 [01:55<43:33, 4.40it/s]
train loss:0.10093176067020082
4%|███▎ | 510/12000 [01:55<43:54, 4.36it/s]
train loss:0.23637087247839936
4%|███▎ | 511/12000 [01:55<44:07, 4.34it/s]
train loss:0.2359113669216538
4%|███▎ | 512/12000 [01:56<43:44, 4.38it/s]
train loss:0.17566519889015905
4%|███▎ | 513/12000 [01:56<44:10, 4.33it/s]
train loss:0.11450178863686922
4%|███▎ | 514/12000 [01:56<44:17, 4.32it/s]
train loss:0.15889042954615548
4%|███▎ | 515/12000 [01:56<44:04, 4.34it/s]
train loss:0.13605079902195968
4%|███▎ | 516/12000 [01:57<43:58, 4.35it/s]
train loss:0.2196248485739782
4%|███▎ | 517/12000 [01:57<43:32, 4.39it/s]
train loss:0.20236541587943446
4%|███▎ | 518/12000 [01:57<43:33, 4.39it/s]
train loss:0.1724356497371235
4%|███▎ | 519/12000 [01:57<43:24, 4.41it/s]
train loss:0.1317399846057239
4%|███▍ | 520/12000 [01:58<43:41, 4.38it/s]
train loss:0.21137824536109204
4%|███▍ | 521/12000 [01:58<43:02, 4.44it/s]
train loss:0.0997081553193083
4%|███▍ | 522/12000 [01:58<43:04, 4.44it/s]
train loss:0.11347048662502227
4%|███▍ | 523/12000 [01:58<43:11, 4.43it/s]
train loss:0.2010806168238441
4%|███▍ | 524/12000 [01:58<43:14, 4.42it/s]
train loss:0.2272318497899811
4%|███▍ | 525/12000 [01:59<42:49, 4.47it/s]
train loss:0.15026025416095531
4%|███▍ | 526/12000 [01:59<43:41, 4.38it/s]
train loss:0.11344954195049825
4%|███▍ | 527/12000 [01:59<44:05, 4.34it/s]
train loss:0.07034114052880212
4%|███▍ | 528/12000 [01:59<43:52, 4.36it/s]
train loss:0.14732629418829352
4%|███▍ | 529/12000 [02:00<43:42, 4.37it/s]
train loss:0.19538832272699863
4%|███▍ | 530/12000 [02:00<43:59, 4.35it/s]
train loss:0.13401695602642338
4%|███▍ | 531/12000 [02:00<44:02, 4.34it/s]
train loss:0.1584419507279012
4%|███▍ | 532/12000 [02:00<44:00, 4.34it/s]
train loss:0.13430459787979268
4%|███▍ | 533/12000 [02:00<43:31, 4.39it/s]
train loss:0.1528168393201959
4%|███▍ | 534/12000 [02:01<43:19, 4.41it/s]
train loss:0.11543252305530556
4%|███▍ | 535/12000 [02:01<43:21, 4.41it/s]
train loss:0.14195565905975913
4%|███▍ | 536/12000 [02:01<43:23, 4.40it/s]
train loss:0.23169120896373896
4%|███▍ | 537/12000 [02:01<43:16, 4.41it/s]
train loss:0.26587380787696213
4%|███▍ | 538/12000 [02:02<43:21, 4.41it/s]
train loss:0.11544517703659739
4%|███▌ | 539/12000 [02:02<43:19, 4.41it/s]
train loss:0.10085316159207693
4%|███▌ | 540/12000 [02:02<43:04, 4.43it/s]
train loss:0.20421752483312003
5%|███▌ | 541/12000 [02:02<43:27, 4.40it/s]
train loss:0.09407900982557559
5%|███▌ | 542/12000 [02:03<43:13, 4.42it/s]
train loss:0.09070925473348927
5%|███▌ | 543/12000 [02:03<42:37, 4.48it/s]
train loss:0.11665157571308515
5%|███▌ | 544/12000 [02:03<42:57, 4.44it/s]
train loss:0.1553306953240307
5%|███▌ | 545/12000 [02:03<43:03, 4.43it/s]
train loss:0.059499838239888414
5%|███▌ | 546/12000 [02:03<43:04, 4.43it/s]
train loss:0.14470434303698873
5%|███▌ | 547/12000 [02:04<42:31, 4.49it/s]
train loss:0.14300955505870866
5%|███▌ | 548/12000 [02:04<42:48, 4.46it/s]
train loss:0.10818056895367302
5%|███▌ | 549/12000 [02:04<42:55, 4.45it/s]
train loss:0.14418562846456753
5%|███▌ | 550/12000 [02:04<42:59, 4.44it/s]
train loss:0.10313673462917806
5%|███▌ | 551/12000 [02:05<43:07, 4.43it/s]
train loss:0.19757360370127572
5%|███▌ | 552/12000 [02:05<42:24, 4.50it/s]
train loss:0.07707435594808543
5%|███▌ | 553/12000 [02:05<42:33, 4.48it/s]
train loss:0.1827747600361287
5%|███▌ | 554/12000 [02:05<42:26, 4.49it/s]
train loss:0.07543613816097215
5%|███▌ | 555/12000 [02:05<43:02, 4.43it/s]
train loss:0.22652842751863542
5%|███▌ | 556/12000 [02:06<42:26, 4.49it/s]
train loss:0.14865841465927934
5%|███▌ | 557/12000 [02:06<42:23, 4.50it/s]
train loss:0.18696456930936062
5%|███▋ | 558/12000 [02:06<42:59, 4.44it/s]
train loss:0.10982004432115872
5%|███▋ | 559/12000 [02:06<43:08, 4.42it/s]
train loss:0.11463021276290403
5%|███▋ | 560/12000 [02:07<42:53, 4.45it/s]
train loss:0.10651372510212012
5%|███▋ | 561/12000 [02:07<42:50, 4.45it/s]
train loss:0.11176966607512134
5%|███▋ | 562/12000 [02:07<43:00, 4.43it/s]
train loss:0.25586717133289577
5%|███▋ | 563/12000 [02:07<42:52, 4.45it/s]
train loss:0.20765573019136568
5%|███▋ | 564/12000 [02:07<43:00, 4.43it/s]
train loss:0.3076240329302298
5%|███▋ | 565/12000 [02:08<42:42, 4.46it/s]
train loss:0.23307621211878352
5%|███▋ | 566/12000 [02:08<42:52, 4.44it/s]
train loss:0.05471953581486538
5%|███▋ | 567/12000 [02:08<42:55, 4.44it/s]
train loss:0.13892246225628418
5%|███▋ | 568/12000 [02:08<42:50, 4.45it/s]
train loss:0.12095136054325746
5%|███▋ | 569/12000 [02:09<42:48, 4.45it/s]
train loss:0.07422938816440044
5%|███▋ | 570/12000 [02:09<42:30, 4.48it/s]
train loss:0.15929112295041947
5%|███▋ | 571/12000 [02:09<42:55, 4.44it/s]
train loss:0.14369500742189267
5%|███▋ | 572/12000 [02:09<42:31, 4.48it/s]
train loss:0.2004237998937906
5%|███▋ | 573/12000 [02:09<42:59, 4.43it/s]
train loss:0.1292658458847724
5%|███▋ | 574/12000 [02:10<42:28, 4.48it/s]
train loss:0.08794310362516508
5%|███▋ | 575/12000 [02:10<42:43, 4.46it/s]
train loss:0.11291590283943904
5%|███▋ | 576/12000 [02:10<42:46, 4.45it/s]
train loss:0.12940529620301483
5%|███▊ | 577/12000 [02:10<42:25, 4.49it/s]
train loss:0.32019085913070783
5%|███▊ | 578/12000 [02:11<42:51, 4.44it/s]
train loss:0.1418853765365096
5%|███▊ | 579/12000 [02:11<42:48, 4.45it/s]
train loss:0.1731438880061024
5%|███▊ | 580/12000 [02:11<42:54, 4.44it/s]
train loss:0.08205685343157246
5%|███▊ | 581/12000 [02:11<42:58, 4.43it/s]
train loss:0.07324319097810149
5%|███▊ | 582/12000 [02:11<42:53, 4.44it/s]
train loss:0.08212772215357501
5%|███▊ | 583/12000 [02:12<42:40, 4.46it/s]
train loss:0.15397330140710092
5%|███▊ | 584/12000 [02:12<42:50, 4.44it/s]
train loss:0.24207364050345684
5%|███▊ | 585/12000 [02:12<42:59, 4.43it/s]
train loss:0.1719355767661979
5%|███▊ | 586/12000 [02:12<42:57, 4.43it/s]
train loss:0.16614590420424905
5%|███▊ | 587/12000 [02:13<43:03, 4.42it/s]
train loss:0.09578449019887737
5%|███▊ | 588/12000 [02:13<42:47, 4.44it/s]
train loss:0.13211840140287714
5%|███▊ | 589/12000 [02:13<42:55, 4.43it/s]
train loss:0.1274276400437918
5%|███▊ | 590/12000 [02:13<43:08, 4.41it/s]
train loss:0.14312983586946232
5%|███▊ | 591/12000 [02:14<43:10, 4.40it/s]
train loss:0.18611170573212532 train loss:0.10624151123890306
5%|███▊ | 593/12000 [02:14<41:54, 4.54it/s]
train loss:0.17847257330330055
5%|███▊ | 594/12000 [02:14<42:34, 4.47it/s]
train loss:0.07792233071534746
5%|███▊ | 595/12000 [02:14<43:15, 4.39it/s]
train loss:0.16098839545648697
5%|███▊ | 596/12000 [02:15<42:43, 4.45it/s]
train loss:0.16175431633069873
5%|███▉ | 597/12000 [02:15<42:27, 4.48it/s]
train loss:0.07036157739921141
5%|███▉ | 598/12000 [02:15<42:50, 4.44it/s]
train loss:0.08948128116149301
5%|███▉ | 599/12000 [02:15<42:48, 4.44it/s]
train loss:0.1585475936278523
5%|███▉ | 600/12000 [02:16<43:05, 4.41it/s]
train loss:0.18054916935076407 train loss:0.21894521326689972
5%|███▊ | 601/12000 [02:17<2:12:12, 1.44it/s]
=== epoch:2, train acc:0.96, test acc:0.966 ===
5%|███▊ | 602/12000 [02:18<1:45:39, 1.80it/s]
train loss:0.07080467010905397
5%|███▊ | 603/12000 [02:18<1:26:30, 2.20it/s]
train loss:0.12266771061078881
5%|███▊ | 604/12000 [02:18<1:13:26, 2.59it/s]
train loss:0.13209929421888453
5%|███▊ | 605/12000 [02:18<1:04:11, 2.96it/s]
train loss:0.10851335669119973
5%|███▉ | 606/12000 [02:18<57:53, 3.28it/s]
train loss:0.050031907009007004
5%|███▉ | 607/12000 [02:19<52:36, 3.61it/s]
train loss:0.12531764916752755
5%|███▉ | 608/12000 [02:19<49:59, 3.80it/s]
train loss:0.12488788763702698
5%|███▉ | 609/12000 [02:19<47:32, 3.99it/s]
train loss:0.06998604486972708
5%|███▉ | 610/12000 [02:19<46:24, 4.09it/s]
train loss:0.07710244845430302
5%|███▉ | 611/12000 [02:20<45:25, 4.18it/s]
train loss:0.19198955458514974
5%|███▉ | 612/12000 [02:20<44:11, 4.30it/s]
train loss:0.12920983811311482
5%|███▉ | 613/12000 [02:20<43:50, 4.33it/s]
train loss:0.17011508419061377
5%|███▉ | 614/12000 [02:20<44:24, 4.27it/s]
train loss:0.11152204773341115
5%|███▉ | 615/12000 [02:20<43:24, 4.37it/s]
train loss:0.10936342782355632
5%|████ | 616/12000 [02:21<43:19, 4.38it/s]
train loss:0.1495020178512588
5%|████ | 617/12000 [02:21<43:09, 4.40it/s]
train loss:0.1100212845516992
5%|████ | 618/12000 [02:21<42:51, 4.43it/s]
train loss:0.14183052324434497
5%|████ | 619/12000 [02:21<43:00, 4.41it/s]
train loss:0.2423297424164878
5%|████ | 620/12000 [02:22<42:50, 4.43it/s]
train loss:0.20495641377735463
5%|████ | 621/12000 [02:22<42:54, 4.42it/s]
train loss:0.15491161704457015
5%|████ | 622/12000 [02:22<42:54, 4.42it/s]
train loss:0.10134730089281739
5%|████ | 623/12000 [02:22<42:45, 4.43it/s]
train loss:0.21517588176870947
5%|████ | 624/12000 [02:23<42:51, 4.42it/s]
train loss:0.10434541603591949
5%|████ | 625/12000 [02:23<42:15, 4.49it/s]
train loss:0.08431652479265507
5%|████ | 626/12000 [02:23<42:04, 4.51it/s]
train loss:0.13482856751439998
5%|████ | 627/12000 [02:23<42:37, 4.45it/s]
train loss:0.11821250865516658
5%|████ | 628/12000 [02:23<42:41, 4.44it/s]
train loss:0.10686492578312416
5%|████ | 629/12000 [02:24<42:24, 4.47it/s]
train loss:0.134270556816059
5%|████ | 630/12000 [02:24<42:28, 4.46it/s]
train loss:0.12495012542335783
5%|████ | 631/12000 [02:24<42:19, 4.48it/s]
train loss:0.11498021757299635
5%|████ | 632/12000 [02:24<42:45, 4.43it/s]
train loss:0.118722877529354
5%|████ | 633/12000 [02:25<43:05, 4.40it/s]
train loss:0.13161666480207748
5%|████ | 634/12000 [02:25<42:22, 4.47it/s]
train loss:0.047460345172865265
5%|████▏ | 635/12000 [02:25<42:53, 4.42it/s]
train loss:0.2666363496445554
5%|████▏ | 636/12000 [02:25<42:41, 4.44it/s]
train loss:0.1668868050150745
5%|████▏ | 638/12000 [02:26<42:04, 4.50it/s]
train loss:0.16094057989725155 train loss:0.12310263062648813
5%|████▏ | 639/12000 [02:26<42:24, 4.47it/s]
train loss:0.04633656158598777
5%|████▏ | 640/12000 [02:26<42:46, 4.43it/s]
train loss:0.08341580459436919
5%|████▏ | 641/12000 [02:26<42:56, 4.41it/s]
train loss:0.10936057457296686
5%|████▏ | 642/12000 [02:27<42:59, 4.40it/s]
train loss:0.11616404246489392
5%|████▏ | 643/12000 [02:27<42:42, 4.43it/s]
train loss:0.2178336865919263
5%|████▏ | 644/12000 [02:27<42:39, 4.44it/s]
train loss:0.11022221743661748
5%|████▏ | 645/12000 [02:27<42:42, 4.43it/s]
train loss:0.267420900035558
5%|████▏ | 646/12000 [02:27<42:55, 4.41it/s]
train loss:0.1093908643980455
5%|████▏ | 647/12000 [02:28<42:21, 4.47it/s]
train loss:0.21227631458517293
5%|████▏ | 648/12000 [02:28<42:47, 4.42it/s]
train loss:0.09089886571087138
5%|████▏ | 649/12000 [02:28<43:05, 4.39it/s]
train loss:0.09440017784652804
5%|████▏ | 650/12000 [02:28<43:28, 4.35it/s]
train loss:0.08698812679073833
5%|████▏ | 651/12000 [02:29<42:43, 4.43it/s]
train loss:0.11027490869572762
5%|████▏ | 652/12000 [02:29<42:43, 4.43it/s]
train loss:0.0870546319658078
5%|████▏ | 653/12000 [02:29<42:53, 4.41it/s]
train loss:0.08753867627977184
5%|████▎ | 654/12000 [02:29<42:52, 4.41it/s]
train loss:0.03051165851605112
5%|████▎ | 655/12000 [02:29<42:26, 4.45it/s]
train loss:0.15881506544498106
5%|████▎ | 656/12000 [02:30<42:50, 4.41it/s]
train loss:0.18940059441585178
5%|████▎ | 657/12000 [02:30<42:37, 4.44it/s]
train loss:0.08385793165920949
5%|████▎ | 658/12000 [02:30<42:58, 4.40it/s]
train loss:0.12023970430706195
5%|████▎ | 659/12000 [02:30<44:10, 4.28it/s]
train loss:0.2262927884140201
6%|████▎ | 660/12000 [02:31<43:12, 4.37it/s]
train loss:0.06087723938084582
6%|████▎ | 661/12000 [02:31<42:48, 4.41it/s]
train loss:0.08265488855639239
6%|████▎ | 662/12000 [02:31<43:10, 4.38it/s]
train loss:0.13649263001973594
6%|████▎ | 663/12000 [02:31<42:59, 4.39it/s]
train loss:0.1035019386790252
6%|████▎ | 664/12000 [02:32<42:59, 4.39it/s]
train loss:0.1257189023411227
6%|████▎ | 665/12000 [02:32<42:33, 4.44it/s]
train loss:0.15230871189566336
6%|████▎ | 666/12000 [02:32<42:33, 4.44it/s]
train loss:0.11535298387687275
6%|████▎ | 667/12000 [02:32<42:39, 4.43it/s]
train loss:0.1796609307332226
6%|████▎ | 668/12000 [02:32<42:45, 4.42it/s]
train loss:0.09519449587588781
6%|████▎ | 669/12000 [02:33<42:38, 4.43it/s]
train loss:0.2011208824602432
6%|████▎ | 670/12000 [02:33<42:44, 4.42it/s]
train loss:0.06399644742121255
6%|████▎ | 671/12000 [02:33<42:49, 4.41it/s]
train loss:0.03687863049599848
6%|████▎ | 672/12000 [02:33<42:45, 4.42it/s]
train loss:0.05115317053658866
6%|████▎ | 673/12000 [02:34<42:23, 4.45it/s]
train loss:0.09304650573109399
6%|████▍ | 674/12000 [02:34<43:12, 4.37it/s]
train loss:0.16867466353543592
6%|████▍ | 675/12000 [02:34<43:10, 4.37it/s]
train loss:0.1786621389276106
6%|████▍ | 676/12000 [02:34<43:05, 4.38it/s]
train loss:0.0935553526799199
6%|████▍ | 677/12000 [02:35<42:47, 4.41it/s]
train loss:0.07184936240971823
6%|████▍ | 678/12000 [02:35<42:02, 4.49it/s]
train loss:0.09427227146147164
6%|████▍ | 679/12000 [02:35<42:27, 4.44it/s]
train loss:0.04908838901814243
6%|████▍ | 680/12000 [02:35<42:27, 4.44it/s]
train loss:0.1170938822974483
6%|████▍ | 681/12000 [02:35<42:32, 4.44it/s]
train loss:0.0862388275906175
6%|████▍ | 682/12000 [02:36<42:13, 4.47it/s]
train loss:0.1277607523731318
6%|████▍ | 683/12000 [02:36<42:11, 4.47it/s]
train loss:0.14053237984111502
6%|████▍ | 684/12000 [02:36<42:25, 4.45it/s]
train loss:0.17317081688038127
6%|████▍ | 685/12000 [02:36<42:26, 4.44it/s]
train loss:0.05433225537968563
6%|████▍ | 686/12000 [02:37<42:32, 4.43it/s]
train loss:0.07613310061507597 train loss:0.05521506816172907
6%|████▍ | 688/12000 [02:37<42:25, 4.44it/s]
train loss:0.08466470436959378
6%|████▍ | 689/12000 [02:37<42:25, 4.44it/s]
train loss:0.09200538036057086
6%|████▍ | 690/12000 [02:37<42:31, 4.43it/s]
train loss:0.05442107055734639
6%|████▍ | 691/12000 [02:38<42:22, 4.45it/s]
train loss:0.139178490503665
6%|████▍ | 692/12000 [02:38<42:06, 4.48it/s]
train loss:0.09964113632800486
6%|████▌ | 693/12000 [02:38<42:22, 4.45it/s]
train loss:0.15653943972363388
6%|████▌ | 694/12000 [02:38<43:46, 4.31it/s]
train loss:0.1497818497994084
6%|████▌ | 695/12000 [02:39<43:34, 4.32it/s]
train loss:0.06526210963297213
6%|████▌ | 696/12000 [02:39<42:52, 4.39it/s]
train loss:0.20517868420638238
6%|████▌ | 697/12000 [02:39<43:14, 4.36it/s]
train loss:0.1841646739032224
6%|████▌ | 698/12000 [02:39<43:24, 4.34it/s]
train loss:0.07930549489191306
6%|████▌ | 699/12000 [02:39<43:20, 4.35it/s]
train loss:0.09439514540348791
6%|████▌ | 700/12000 [02:40<42:38, 4.42it/s]
train loss:0.06430844267272678
6%|████▌ | 701/12000 [02:40<42:32, 4.43it/s]
train loss:0.02791563264347483
6%|████▌ | 702/12000 [02:40<42:56, 4.38it/s]
train loss:0.2300664641054347
6%|████▌ | 703/12000 [02:40<43:08, 4.36it/s]
train loss:0.11266157112378222
6%|████▌ | 704/12000 [02:41<42:49, 4.40it/s]
train loss:0.059572156854571665
6%|████▌ | 705/12000 [02:41<42:33, 4.42it/s]
train loss:0.09350894440373565
6%|████▌ | 706/12000 [02:41<42:18, 4.45it/s]
train loss:0.12138297194191622
6%|████▌ | 707/12000 [02:41<42:44, 4.40it/s]
train loss:0.057008241392117194
6%|████▌ | 708/12000 [02:42<42:51, 4.39it/s]
train loss:0.20215996870661193
6%|████▌ | 709/12000 [02:42<42:15, 4.45it/s]
train loss:0.185723089887372
6%|████▌ | 710/12000 [02:42<42:40, 4.41it/s]
train loss:0.13617676190653666
6%|████▌ | 711/12000 [02:42<42:29, 4.43it/s]
train loss:0.11894856700091987
6%|████▋ | 712/12000 [02:42<42:51, 4.39it/s]
train loss:0.07401275447548099
6%|████▋ | 713/12000 [02:43<43:14, 4.35it/s]
train loss:0.0975921807590694
6%|████▋ | 714/12000 [02:43<43:03, 4.37it/s]
train loss:0.12058489782049846
6%|████▋ | 715/12000 [02:43<43:03, 4.37it/s]
train loss:0.08879024360782736
6%|████▋ | 716/12000 [02:43<42:59, 4.37it/s]
train loss:0.09403784882685728
6%|████▋ | 717/12000 [02:44<42:52, 4.39it/s]
train loss:0.07678986861317927
6%|████▋ | 718/12000 [02:44<42:20, 4.44it/s]
train loss:0.16593318012307226
6%|████▋ | 719/12000 [02:44<42:40, 4.41it/s]
train loss:0.15789176942121508
6%|████▋ | 720/12000 [02:44<42:29, 4.42it/s]
train loss:0.039503167190887555
6%|████▋ | 721/12000 [02:44<42:39, 4.41it/s]
train loss:0.05121243408133582
6%|████▋ | 722/12000 [02:45<42:10, 4.46it/s]
train loss:0.05770487303613542
6%|████▋ | 723/12000 [02:45<42:35, 4.41it/s]
train loss:0.15193508260074184
6%|████▋ | 724/12000 [02:45<42:30, 4.42it/s]
train loss:0.1501289025994613
6%|████▋ | 725/12000 [02:45<42:39, 4.41it/s]
train loss:0.0763975413971575
6%|████▋ | 726/12000 [02:46<42:39, 4.41it/s]
train loss:0.10562480566738834
6%|████▋ | 727/12000 [02:46<42:06, 4.46it/s]
train loss:0.1151036879064174
6%|████▋ | 728/12000 [02:46<42:35, 4.41it/s]
train loss:0.12634485549784072
6%|████▋ | 729/12000 [02:46<42:34, 4.41it/s]
train loss:0.1995561268385192
6%|████▋ | 730/12000 [02:46<42:18, 4.44it/s]
train loss:0.07843696658708083
6%|████▊ | 731/12000 [02:47<42:04, 4.46it/s]
train loss:0.17751520187117006
6%|████▊ | 732/12000 [02:47<42:15, 4.44it/s]
train loss:0.10029448138009554
6%|████▊ | 733/12000 [02:47<41:59, 4.47it/s]
train loss:0.17945880609130596
6%|████▊ | 734/12000 [02:47<42:20, 4.43it/s]
train loss:0.197583316728904
6%|████▊ | 735/12000 [02:48<42:14, 4.44it/s]
train loss:0.10621869563355206
6%|████▊ | 736/12000 [02:48<42:33, 4.41it/s]
train loss:0.06101502791349204
6%|████▊ | 737/12000 [02:48<42:32, 4.41it/s]
train loss:0.24770686377692835
6%|████▊ | 738/12000 [02:48<42:30, 4.42it/s]
train loss:0.0948972774645458
6%|████▊ | 739/12000 [02:49<42:34, 4.41it/s]
train loss:0.20362331095411443
6%|████▊ | 740/12000 [02:49<41:51, 4.48it/s]
train loss:0.07305987277329398
6%|████▊ | 741/12000 [02:49<42:24, 4.42it/s]
train loss:0.21162315571232088
6%|████▊ | 742/12000 [02:49<42:26, 4.42it/s]
train loss:0.10092544607017132
6%|████▊ | 743/12000 [02:49<42:27, 4.42it/s]
train loss:0.09196024025547478
6%|████▊ | 744/12000 [02:50<41:57, 4.47it/s]
train loss:0.12241467498824411
6%|████▊ | 745/12000 [02:50<41:54, 4.48it/s]
train loss:0.10097449437646783
6%|████▊ | 746/12000 [02:50<42:01, 4.46it/s]
train loss:0.21436979220815547
6%|████▊ | 747/12000 [02:50<42:24, 4.42it/s]
train loss:0.1454121570345489
6%|████▊ | 748/12000 [02:51<42:10, 4.45it/s]
train loss:0.07972963613446378
6%|████▊ | 749/12000 [02:51<42:13, 4.44it/s]
train loss:0.10194040354154066
6%|████▉ | 750/12000 [02:51<41:55, 4.47it/s]
train loss:0.13183905759937745
6%|████▉ | 751/12000 [02:51<42:30, 4.41it/s]
train loss:0.0878240838566745
6%|████▉ | 752/12000 [02:51<42:07, 4.45it/s]
train loss:0.1143129367392847
6%|████▉ | 753/12000 [02:52<41:55, 4.47it/s]
train loss:0.12170410353083945
6%|████▉ | 754/12000 [02:52<42:03, 4.46it/s]
train loss:0.11025192983273707
6%|████▉ | 755/12000 [02:52<41:58, 4.47it/s]
train loss:0.07144137361349621
6%|████▉ | 756/12000 [02:52<42:23, 4.42it/s]
train loss:0.0778210410934034
6%|████▉ | 757/12000 [02:53<42:14, 4.44it/s]
train loss:0.039094165731627425
6%|████▉ | 758/12000 [02:53<41:50, 4.48it/s]
train loss:0.1360084992007385
6%|████▉ | 759/12000 [02:53<42:03, 4.46it/s]
train loss:0.09134752861381665
6%|████▉ | 760/12000 [02:53<42:07, 4.45it/s]
train loss:0.1531022998925674
6%|████▉ | 761/12000 [02:53<42:04, 4.45it/s]
train loss:0.14215440576202204
6%|████▉ | 762/12000 [02:54<41:49, 4.48it/s]
train loss:0.06834900096195021
6%|████▉ | 763/12000 [02:54<41:58, 4.46it/s]
train loss:0.13713703735859054
6%|████▉ | 764/12000 [02:54<41:43, 4.49it/s]
train loss:0.11993920433370611
6%|████▉ | 765/12000 [02:54<42:19, 4.42it/s]
train loss:0.1034328197916948
6%|████▉ | 766/12000 [02:55<42:16, 4.43it/s]
train loss:0.10181948126384817
6%|████▉ | 767/12000 [02:55<42:05, 4.45it/s]
train loss:0.09293551102283076
6%|████▉ | 768/12000 [02:55<42:07, 4.44it/s]
train loss:0.09254836410110778
6%|████▉ | 769/12000 [02:55<42:09, 4.44it/s]
train loss:0.07496088823374598
6%|█████ | 770/12000 [02:55<42:21, 4.42it/s]
train loss:0.10059906753154962
6%|█████ | 771/12000 [02:56<41:34, 4.50it/s]
train loss:0.11262934687760291
6%|█████ | 772/12000 [02:56<41:30, 4.51it/s]
train loss:0.18132383466487756
6%|█████ | 773/12000 [02:56<42:09, 4.44it/s]
train loss:0.08032637049258337
6%|█████ | 774/12000 [02:56<42:17, 4.42it/s]
train loss:0.18328031659170602
6%|█████ | 775/12000 [02:57<42:01, 4.45it/s]
train loss:0.047161107048095514
6%|█████ | 776/12000 [02:57<41:54, 4.46it/s]
train loss:0.08337706249617707
6%|█████ | 777/12000 [02:57<42:01, 4.45it/s]
train loss:0.05511440911419637
6%|█████ | 778/12000 [02:57<42:06, 4.44it/s]
train loss:0.08004291620472483
6%|█████ | 779/12000 [02:58<42:47, 4.37it/s]
train loss:0.08779517199016647
6%|█████ | 780/12000 [02:58<42:02, 4.45it/s]
train loss:0.1465407084069992
7%|█████ | 781/12000 [02:58<41:26, 4.51it/s]
train loss:0.04946350851518545
7%|█████ | 782/12000 [02:58<42:31, 4.40it/s]
train loss:0.12222229058139097
7%|█████ | 783/12000 [02:58<42:21, 4.41it/s]
train loss:0.045447879920731814
7%|█████ | 784/12000 [02:59<42:09, 4.43it/s]
train loss:0.1302988033948902
7%|█████ | 785/12000 [02:59<42:07, 4.44it/s]
train loss:0.09861654484601697
7%|█████ | 786/12000 [02:59<42:13, 4.43it/s]
train loss:0.09428404298505356
7%|█████ | 787/12000 [02:59<41:56, 4.46it/s]
train loss:0.12947412135064806
7%|█████ | 788/12000 [03:00<42:24, 4.41it/s]
train loss:0.06230369393963062
7%|█████▏ | 789/12000 [03:00<41:58, 4.45it/s]
train loss:0.04623057716224931
7%|█████▏ | 790/12000 [03:00<42:26, 4.40it/s]
train loss:0.10553262222661808
7%|█████▏ | 791/12000 [03:00<42:33, 4.39it/s]
train loss:0.18904633350516659
7%|█████▏ | 792/12000 [03:00<42:38, 4.38it/s]
train loss:0.14639312081452885
7%|█████▏ | 793/12000 [03:01<41:55, 4.45it/s]
train loss:0.09488560885592728
7%|█████▏ | 794/12000 [03:01<41:54, 4.46it/s]
train loss:0.22633681969187244
7%|█████▏ | 795/12000 [03:01<42:12, 4.43it/s]
train loss:0.09243180637513604
7%|█████▏ | 796/12000 [03:01<42:14, 4.42it/s]
train loss:0.128365330589174
7%|█████▏ | 797/12000 [03:02<42:09, 4.43it/s]
train loss:0.04322406718695879
7%|█████▏ | 798/12000 [03:02<41:51, 4.46it/s]
train loss:0.05584227932335493
7%|█████▏ | 799/12000 [03:02<41:58, 4.45it/s]
train loss:0.10611813752688913
7%|█████▏ | 800/12000 [03:02<41:50, 4.46it/s]
train loss:0.10980924957436498
7%|█████▏ | 801/12000 [03:02<42:33, 4.39it/s]
train loss:0.09133559564390124
7%|█████▏ | 802/12000 [03:03<42:07, 4.43it/s]
train loss:0.09441611462865078
7%|█████▏ | 803/12000 [03:03<42:21, 4.41it/s]
train loss:0.20209351365591258
7%|█████▏ | 804/12000 [03:03<42:08, 4.43it/s]
train loss:0.06144722009190055
7%|█████▏ | 805/12000 [03:03<42:45, 4.36it/s]
train loss:0.178225578292692
7%|█████▏ | 806/12000 [03:04<42:15, 4.42it/s]
train loss:0.059431252566198724
7%|█████▏ | 807/12000 [03:04<42:16, 4.41it/s]
train loss:0.061926013983688556
7%|█████▎ | 808/12000 [03:04<42:31, 4.39it/s]
train loss:0.1907806402233697
7%|█████▎ | 809/12000 [03:04<42:15, 4.41it/s]
train loss:0.08533145810081116
7%|█████▎ | 810/12000 [03:05<42:32, 4.38it/s]
train loss:0.09244302018846982
7%|█████▎ | 811/12000 [03:05<41:57, 4.44it/s]
train loss:0.09202806674841157
7%|█████▎ | 812/12000 [03:05<42:01, 4.44it/s]
train loss:0.02186496192579945
7%|█████▎ | 813/12000 [03:05<42:14, 4.41it/s]
train loss:0.06773775552008048
7%|█████▎ | 814/12000 [03:05<42:15, 4.41it/s]
train loss:0.1309355371022486
7%|█████▎ | 815/12000 [03:06<41:48, 4.46it/s]
train loss:0.14509636208654328
7%|█████▎ | 816/12000 [03:06<42:17, 4.41it/s]
train loss:0.04956844404436059
7%|█████▎ | 817/12000 [03:06<42:23, 4.40it/s]
train loss:0.04250103877216203
7%|█████▎ | 818/12000 [03:06<42:29, 4.39it/s]
train loss:0.04395609653796897
7%|█████▎ | 819/12000 [03:07<42:23, 4.40it/s]
train loss:0.032381976253185354
7%|█████▎ | 820/12000 [03:07<42:03, 4.43it/s]
train loss:0.08092384129886518
7%|█████▎ | 821/12000 [03:07<41:47, 4.46it/s]
train loss:0.07240180985272876
7%|█████▎ | 822/12000 [03:07<42:12, 4.41it/s]
train loss:0.16291821223015238
7%|█████▎ | 823/12000 [03:07<42:11, 4.42it/s]
train loss:0.038417334592441316
7%|█████▎ | 824/12000 [03:08<41:33, 4.48it/s]
train loss:0.07920877129323016
7%|█████▎ | 825/12000 [03:08<42:02, 4.43it/s]
train loss:0.22106992461756542
7%|█████▎ | 826/12000 [03:08<42:18, 4.40it/s]
train loss:0.032949850141492994
7%|█████▍ | 827/12000 [03:08<42:05, 4.42it/s]
train loss:0.08223397680072266
7%|█████▍ | 828/12000 [03:09<42:13, 4.41it/s]
train loss:0.16169413954259845
7%|█████▍ | 829/12000 [03:09<41:42, 4.46it/s]
train loss:0.09225871741054804
7%|█████▍ | 830/12000 [03:09<41:49, 4.45it/s]
train loss:0.05240904274792206
7%|█████▍ | 831/12000 [03:09<41:58, 4.43it/s]
train loss:0.08061352510357747
7%|█████▍ | 832/12000 [03:10<42:12, 4.41it/s]
train loss:0.1595930614518514
7%|█████▍ | 833/12000 [03:10<41:30, 4.48it/s]
train loss:0.04342012851583209
7%|█████▍ | 834/12000 [03:10<41:52, 4.44it/s]
train loss:0.043389608720486736
7%|█████▍ | 835/12000 [03:10<41:56, 4.44it/s]
train loss:0.10894497598238198
7%|█████▍ | 836/12000 [03:10<41:47, 4.45it/s]
train loss:0.042520795349291804
7%|█████▍ | 837/12000 [03:11<41:51, 4.44it/s]
train loss:0.06897850713458437
7%|█████▍ | 838/12000 [03:11<42:01, 4.43it/s]
train loss:0.11850301291085273
7%|█████▍ | 839/12000 [03:11<41:59, 4.43it/s]
train loss:0.0934136677844512
7%|█████▍ | 840/12000 [03:11<41:56, 4.43it/s]
train loss:0.19908742872584326
7%|█████▍ | 841/12000 [03:12<42:09, 4.41it/s]
train loss:0.05177239944317624
7%|█████▍ | 842/12000 [03:12<42:02, 4.42it/s]
train loss:0.07646170426143399
7%|█████▍ | 843/12000 [03:12<42:06, 4.42it/s]
train loss:0.10646260562117528
7%|█████▍ | 844/12000 [03:12<42:31, 4.37it/s]
train loss:0.0996345823105886
7%|█████▍ | 845/12000 [03:12<42:37, 4.36it/s]
train loss:0.05308289867277049
7%|█████▍ | 846/12000 [03:13<42:15, 4.40it/s]
train loss:0.047691709450030935
7%|█████▌ | 847/12000 [03:13<42:17, 4.40it/s]
train loss:0.1602151831137805
7%|█████▌ | 848/12000 [03:13<44:24, 4.19it/s]
train loss:0.08471238756400475
7%|█████▌ | 849/12000 [03:13<44:20, 4.19it/s]
train loss:0.15695018740072045
7%|█████▌ | 850/12000 [03:14<43:08, 4.31it/s]
train loss:0.0707586556526053
7%|█████▌ | 851/12000 [03:14<43:42, 4.25it/s]
train loss:0.09080527118753627
7%|█████▌ | 852/12000 [03:14<43:17, 4.29it/s]
train loss:0.05395459730080088
7%|█████▌ | 853/12000 [03:14<43:04, 4.31it/s]
train loss:0.06451488761044886
7%|█████▌ | 854/12000 [03:15<42:48, 4.34it/s]
train loss:0.09887903658595343
7%|█████▌ | 855/12000 [03:15<42:09, 4.41it/s]
train loss:0.1836098809031014
7%|█████▌ | 856/12000 [03:15<42:04, 4.41it/s]
train loss:0.06467662948135083
7%|█████▌ | 857/12000 [03:15<42:12, 4.40it/s]
train loss:0.09151450723982692
7%|█████▌ | 858/12000 [03:15<42:40, 4.35it/s]
train loss:0.0909119647019262
7%|█████▌ | 859/12000 [03:16<42:10, 4.40it/s]
train loss:0.05554173509337954
7%|█████▌ | 860/12000 [03:16<41:51, 4.44it/s]
train loss:0.20681847794361277
7%|█████▌ | 861/12000 [03:16<42:31, 4.37it/s]
train loss:0.06469976428294336
7%|█████▌ | 862/12000 [03:16<42:41, 4.35it/s]
train loss:0.07806967686502443
7%|█████▌ | 863/12000 [03:17<42:59, 4.32it/s]
train loss:0.1288680506165772
7%|█████▌ | 864/12000 [03:17<42:35, 4.36it/s]
train loss:0.08684413693684778
7%|█████▌ | 865/12000 [03:17<42:32, 4.36it/s]
train loss:0.11532522702905934
7%|█████▋ | 866/12000 [03:17<43:31, 4.26it/s]
train loss:0.08462855705836889
7%|█████▋ | 867/12000 [03:18<43:26, 4.27it/s]
train loss:0.07724736190021284
7%|█████▋ | 868/12000 [03:18<42:33, 4.36it/s]
train loss:0.07585112471390086
7%|█████▋ | 869/12000 [03:18<42:15, 4.39it/s]
train loss:0.04957899595600421
7%|█████▋ | 870/12000 [03:18<42:15, 4.39it/s]
train loss:0.0689306441425354
7%|█████▋ | 871/12000 [03:18<42:34, 4.36it/s]
train loss:0.1286726947464848
7%|█████▋ | 872/12000 [03:19<42:04, 4.41it/s]
train loss:0.04099494406434086
7%|█████▋ | 873/12000 [03:19<43:08, 4.30it/s]
train loss:0.07113858398596049
7%|█████▋ | 874/12000 [03:19<43:00, 4.31it/s]
train loss:0.14106904913356602
7%|█████▋ | 875/12000 [03:19<42:41, 4.34it/s]
train loss:0.15557280958830969
7%|█████▋ | 876/12000 [03:20<42:30, 4.36it/s]
train loss:0.048523715771656796
7%|█████▋ | 877/12000 [03:20<42:43, 4.34it/s]
train loss:0.06658910114030774
7%|█████▋ | 878/12000 [03:20<42:45, 4.33it/s]
train loss:0.11362682796557688
7%|█████▋ | 879/12000 [03:20<42:40, 4.34it/s]
train loss:0.1972489952741687
7%|█████▋ | 880/12000 [03:21<42:31, 4.36it/s]
train loss:0.1529074914330918
7%|█████▋ | 881/12000 [03:21<42:27, 4.36it/s]
train loss:0.04747135019696138
7%|█████▋ | 882/12000 [03:21<42:35, 4.35it/s]
train loss:0.017547452155044625
7%|█████▋ | 883/12000 [03:21<42:28, 4.36it/s]
train loss:0.05829598048979059
7%|█████▋ | 884/12000 [03:21<42:10, 4.39it/s]
train loss:0.04788587148215627
7%|█████▊ | 885/12000 [03:22<41:37, 4.45it/s]
train loss:0.12798810100770472
7%|█████▊ | 886/12000 [03:22<41:55, 4.42it/s]
train loss:0.05711113554552703
7%|█████▊ | 887/12000 [03:22<41:53, 4.42it/s]
train loss:0.09048740379012488
7%|█████▊ | 888/12000 [03:22<41:50, 4.43it/s]
train loss:0.05745337249947873
7%|█████▊ | 889/12000 [03:23<41:43, 4.44it/s]
train loss:0.06938242535673807
7%|█████▊ | 890/12000 [03:23<41:35, 4.45it/s]
train loss:0.06869465800765172
7%|█████▊ | 891/12000 [03:23<41:50, 4.42it/s]
train loss:0.15847083654008934
7%|█████▊ | 892/12000 [03:23<41:46, 4.43it/s]
train loss:0.15690935763071534
7%|█████▊ | 893/12000 [03:23<41:58, 4.41it/s]
train loss:0.04949856051540173
7%|█████▊ | 894/12000 [03:24<41:35, 4.45it/s]
train loss:0.1027174185864443
7%|█████▊ | 895/12000 [03:24<41:59, 4.41it/s]
train loss:0.08899833132864242
7%|█████▊ | 896/12000 [03:24<41:57, 4.41it/s]
train loss:0.11626334346888718
7%|█████▊ | 897/12000 [03:24<41:39, 4.44it/s]
train loss:0.11470790835379623
7%|█████▊ | 898/12000 [03:25<42:01, 4.40it/s]
train loss:0.18825580889649202
7%|█████▊ | 899/12000 [03:25<41:43, 4.43it/s]
train loss:0.10535643253270129
8%|█████▊ | 900/12000 [03:25<41:45, 4.43it/s]
train loss:0.09621742907482667
8%|█████▊ | 901/12000 [03:25<41:39, 4.44it/s]
train loss:0.09543550655946463
8%|█████▊ | 902/12000 [03:25<41:57, 4.41it/s]
train loss:0.10101496141995213
8%|█████▊ | 903/12000 [03:26<41:19, 4.48it/s]
train loss:0.08722939685039713
8%|█████▉ | 904/12000 [03:26<41:37, 4.44it/s]
train loss:0.07338499755860044
8%|█████▉ | 905/12000 [03:26<41:35, 4.45it/s]
train loss:0.092325284659681
8%|█████▉ | 906/12000 [03:26<42:15, 4.38it/s]
train loss:0.06023275627882584
8%|█████▉ | 907/12000 [03:27<42:04, 4.39it/s]
train loss:0.10250529458549375
8%|█████▉ | 908/12000 [03:27<41:34, 4.45it/s]
train loss:0.2147971368187654
8%|█████▉ | 909/12000 [03:27<41:59, 4.40it/s]
train loss:0.0964666083734596
8%|█████▉ | 910/12000 [03:27<42:02, 4.40it/s]
train loss:0.04017724935280339
8%|█████▉ | 911/12000 [03:28<42:18, 4.37it/s]
train loss:0.04124920964959789
8%|█████▉ | 912/12000 [03:28<41:37, 4.44it/s]
train loss:0.1017688811648223
8%|█████▉ | 913/12000 [03:28<41:51, 4.41it/s]
train loss:0.04587712533291857
8%|█████▉ | 914/12000 [03:28<42:00, 4.40it/s]
train loss:0.08802782437104874
8%|█████▉ | 915/12000 [03:28<42:10, 4.38it/s]
train loss:0.03763310393212697
8%|█████▉ | 916/12000 [03:29<41:37, 4.44it/s]
train loss:0.08174253519527364
8%|█████▉ | 917/12000 [03:29<41:36, 4.44it/s]
train loss:0.04125206010083662
8%|█████▉ | 918/12000 [03:29<41:40, 4.43it/s]
train loss:0.057775109881731464
8%|█████▉ | 919/12000 [03:29<41:47, 4.42it/s]
train loss:0.05466384842472568
8%|█████▉ | 920/12000 [03:30<41:57, 4.40it/s]
train loss:0.0362928319880335
8%|█████▉ | 921/12000 [03:30<41:38, 4.43it/s]
train loss:0.07920172978331264
8%|█████▉ | 922/12000 [03:30<41:33, 4.44it/s]
train loss:0.05273152999164138
8%|█████▉ | 923/12000 [03:30<41:46, 4.42it/s]
train loss:0.07809851627485793
8%|██████ | 924/12000 [03:30<41:56, 4.40it/s]
train loss:0.17973028068837307
8%|██████ | 925/12000 [03:31<41:23, 4.46it/s]
train loss:0.043372766404653956
8%|██████ | 926/12000 [03:31<41:47, 4.42it/s]
train loss:0.11050021357022569
8%|██████ | 927/12000 [03:31<41:31, 4.44it/s]
train loss:0.138787419585851
8%|██████ | 928/12000 [03:31<42:06, 4.38it/s]
train loss:0.03851109546976641
8%|██████ | 929/12000 [03:32<42:02, 4.39it/s]
train loss:0.058729018721739905
8%|██████ | 930/12000 [03:32<41:35, 4.44it/s]
train loss:0.15858301500445493
8%|██████ | 931/12000 [03:32<41:47, 4.41it/s]
train loss:0.12474188039979302
8%|██████ | 932/12000 [03:32<42:13, 4.37it/s]
train loss:0.07287938382479131
8%|██████ | 933/12000 [03:33<42:09, 4.37it/s]
train loss:0.09196484902603838
8%|██████ | 934/12000 [03:33<41:29, 4.45it/s]
train loss:0.056602569539816086
8%|██████ | 935/12000 [03:33<41:43, 4.42it/s]
train loss:0.12174683587218872
8%|██████ | 936/12000 [03:33<42:29, 4.34it/s]
train loss:0.12139231731148398
8%|██████ | 937/12000 [03:33<42:38, 4.32it/s]
train loss:0.05944166500369511
8%|██████ | 938/12000 [03:34<43:15, 4.26it/s]
train loss:0.08392529552386431
8%|██████ | 939/12000 [03:34<42:41, 4.32it/s]
train loss:0.04016195354800105
8%|██████ | 940/12000 [03:34<42:06, 4.38it/s]
train loss:0.04739245663361417
8%|██████ | 941/12000 [03:34<42:16, 4.36it/s]
train loss:0.06966272422276623
8%|██████ | 942/12000 [03:35<42:09, 4.37it/s]
train loss:0.14128880387300355
8%|██████▏ | 943/12000 [03:35<43:26, 4.24it/s]
train loss:0.06837120284104667
8%|██████▏ | 944/12000 [03:35<43:00, 4.28it/s]
train loss:0.09568688974622228
8%|██████▏ | 945/12000 [03:35<42:35, 4.33it/s]
train loss:0.1233672272176864
8%|██████▏ | 946/12000 [03:36<42:05, 4.38it/s]
train loss:0.19890481626550063
8%|██████▏ | 947/12000 [03:36<41:36, 4.43it/s]
train loss:0.08345569335320839
8%|██████▏ | 948/12000 [03:36<41:51, 4.40it/s]
train loss:0.17249168882366392
8%|██████▏ | 949/12000 [03:36<41:46, 4.41it/s]
train loss:0.1534402750497463
8%|██████▏ | 950/12000 [03:36<41:42, 4.42it/s]
train loss:0.20843627953314467
8%|██████▏ | 951/12000 [03:37<41:27, 4.44it/s]
train loss:0.05424537790221152
8%|██████▏ | 952/12000 [03:37<41:20, 4.45it/s]
train loss:0.017458874547781507
8%|██████▏ | 953/12000 [03:37<41:10, 4.47it/s]
train loss:0.15928331073021432
8%|██████▏ | 954/12000 [03:37<42:10, 4.37it/s]
train loss:0.08192500997983063
8%|██████▏ | 955/12000 [03:38<42:05, 4.37it/s]
train loss:0.10188208719101473
8%|██████▏ | 956/12000 [03:38<41:34, 4.43it/s]
train loss:0.13068639409690425
8%|██████▏ | 957/12000 [03:38<41:32, 4.43it/s]
train loss:0.0409788415138687
8%|██████▏ | 958/12000 [03:38<41:33, 4.43it/s]
train loss:0.06940890487310974
8%|██████▏ | 959/12000 [03:38<41:39, 4.42it/s]
train loss:0.08588623037162764
8%|██████▏ | 960/12000 [03:39<41:13, 4.46it/s]
train loss:0.06159377251455779
8%|██████▏ | 961/12000 [03:39<41:15, 4.46it/s]
train loss:0.056864412380664774
8%|██████▎ | 962/12000 [03:39<41:28, 4.44it/s]
train loss:0.09566530395078227
8%|██████▎ | 963/12000 [03:39<41:55, 4.39it/s]
train loss:0.09862318784806881
8%|██████▎ | 964/12000 [03:40<41:46, 4.40it/s]
train loss:0.19029128868927672
8%|██████▎ | 965/12000 [03:40<41:21, 4.45it/s]
train loss:0.13261708855546606
8%|██████▎ | 966/12000 [03:40<41:33, 4.43it/s]
train loss:0.04765574620659266
8%|██████▎ | 967/12000 [03:40<41:50, 4.39it/s]
train loss:0.08691069293233891
8%|██████▎ | 968/12000 [03:40<41:24, 4.44it/s]
train loss:0.10829179293217457
8%|██████▎ | 969/12000 [03:41<41:25, 4.44it/s]
train loss:0.0505997030737338
8%|██████▎ | 970/12000 [03:41<41:41, 4.41it/s]
train loss:0.06166624765200748
8%|██████▎ | 971/12000 [03:41<41:17, 4.45it/s]
train loss:0.09074955348419833
8%|██████▎ | 972/12000 [03:41<41:41, 4.41it/s]
train loss:0.07103127053125602
8%|██████▎ | 973/12000 [03:42<41:28, 4.43it/s]
train loss:0.06611739363514488
8%|██████▎ | 974/12000 [03:42<41:34, 4.42it/s]
train loss:0.062116369591108264
8%|██████▎ | 975/12000 [03:42<41:26, 4.43it/s]
train loss:0.035655426690844476
8%|██████▎ | 976/12000 [03:42<41:30, 4.43it/s]
train loss:0.17631476621476075
8%|██████▎ | 977/12000 [03:43<41:53, 4.39it/s]
train loss:0.08457417169749412
8%|██████▎ | 978/12000 [03:43<41:14, 4.45it/s]
train loss:0.09070985318504247
8%|██████▎ | 979/12000 [03:43<40:54, 4.49it/s]
train loss:0.13097339709785819
8%|██████▎ | 980/12000 [03:43<41:26, 4.43it/s]
train loss:0.13047146024636536
8%|██████▍ | 981/12000 [03:43<41:38, 4.41it/s]
train loss:0.03994900699008964
8%|██████▍ | 982/12000 [03:44<41:22, 4.44it/s]
train loss:0.04066383231087294
8%|██████▍ | 983/12000 [03:44<41:18, 4.45it/s]
train loss:0.15800796671902367
8%|██████▍ | 984/12000 [03:44<41:16, 4.45it/s]
train loss:0.08608537634926373
8%|██████▍ | 985/12000 [03:44<41:43, 4.40it/s]
train loss:0.10347491666751397
8%|██████▍ | 986/12000 [03:45<41:32, 4.42it/s]
train loss:0.03749673515320045
8%|██████▍ | 987/12000 [03:45<41:41, 4.40it/s]
train loss:0.09004720382216179
8%|██████▍ | 988/12000 [03:45<41:35, 4.41it/s]
train loss:0.06074149698976885
8%|██████▍ | 989/12000 [03:45<41:34, 4.41it/s]
train loss:0.10657279980972163
8%|██████▍ | 990/12000 [03:45<41:52, 4.38it/s]
train loss:0.047471466870713616
8%|██████▍ | 991/12000 [03:46<41:27, 4.43it/s]
train loss:0.09025725368163755
8%|██████▍ | 992/12000 [03:46<41:41, 4.40it/s]
train loss:0.030429881568240086
8%|██████▍ | 993/12000 [03:46<41:45, 4.39it/s]
train loss:0.10152673285779923
8%|██████▍ | 994/12000 [03:46<41:41, 4.40it/s]
train loss:0.15788817662137444
8%|██████▍ | 995/12000 [03:47<41:59, 4.37it/s]
train loss:0.15829301822957753
8%|██████▍ | 996/12000 [03:47<41:24, 4.43it/s]
train loss:0.06701793115706738
8%|██████▍ | 997/12000 [03:47<41:23, 4.43it/s]
train loss:0.06336391527954663
8%|██████▍ | 998/12000 [03:47<41:48, 4.39it/s]
train loss:0.079353893710165
8%|██████▍ | 999/12000 [03:47<41:59, 4.37it/s]
train loss:0.13651996664322943
8%|██████▍ | 1000/12000 [03:48<41:21, 4.43it/s]
train loss:0.03698419166126175
8%|██████▍ | 1001/12000 [03:48<41:43, 4.39it/s]
train loss:0.08565576186187839
8%|██████▍ | 1002/12000 [03:48<41:33, 4.41it/s]
train loss:0.05461002839158196
8%|██████▍ | 1003/12000 [03:48<41:22, 4.43it/s]
train loss:0.06524779345533281
8%|██████▍ | 1004/12000 [03:49<41:04, 4.46it/s]
train loss:0.20233799155552884
8%|██████▍ | 1005/12000 [03:49<41:28, 4.42it/s]
train loss:0.06886785664837276
8%|██████▍ | 1006/12000 [03:49<41:30, 4.41it/s]
train loss:0.039286903300996434
8%|██████▍ | 1007/12000 [03:49<41:29, 4.42it/s]
train loss:0.05169943603222382
8%|██████▍ | 1008/12000 [03:50<41:56, 4.37it/s]
train loss:0.041348082022764396
8%|██████▍ | 1009/12000 [03:50<41:11, 4.45it/s]
train loss:0.07678634065660528
8%|██████▍ | 1010/12000 [03:50<41:20, 4.43it/s]
train loss:0.0649042851282654
8%|██████▍ | 1011/12000 [03:50<41:21, 4.43it/s]
train loss:0.05712789019235557
8%|██████▍ | 1012/12000 [03:50<41:22, 4.43it/s]
train loss:0.13335982364090687
8%|██████▌ | 1013/12000 [03:51<41:10, 4.45it/s]
train loss:0.06176514308205805
8%|██████▌ | 1014/12000 [03:51<41:32, 4.41it/s]
train loss:0.05909648238514265
8%|██████▌ | 1015/12000 [03:51<41:25, 4.42it/s]
train loss:0.061123416897731306
8%|██████▌ | 1016/12000 [03:51<41:14, 4.44it/s]
train loss:0.059081367226905365
8%|██████▌ | 1017/12000 [03:52<41:32, 4.41it/s]
train loss:0.0707267892115565
8%|██████▌ | 1018/12000 [03:52<40:59, 4.47it/s]
train loss:0.07250762260243712
8%|██████▌ | 1019/12000 [03:52<41:10, 4.45it/s]
train loss:0.07027839806212748
8%|██████▌ | 1020/12000 [03:52<41:05, 4.45it/s]
train loss:0.10139364611371626
9%|██████▌ | 1021/12000 [03:52<41:17, 4.43it/s]
train loss:0.03347764671525163
9%|██████▌ | 1022/12000 [03:53<40:58, 4.46it/s]
train loss:0.038176202500381284
9%|██████▌ | 1023/12000 [03:53<40:52, 4.48it/s]
train loss:0.15257776936539957
9%|██████▌ | 1024/12000 [03:53<41:23, 4.42it/s]
train loss:0.06971335045510584
9%|██████▌ | 1025/12000 [03:53<41:17, 4.43it/s]
train loss:0.06593159029836944
9%|██████▌ | 1026/12000 [03:54<41:14, 4.44it/s]
train loss:0.04663011165319233
9%|██████▌ | 1027/12000 [03:54<40:55, 4.47it/s]
train loss:0.08759595645548357
9%|██████▌ | 1028/12000 [03:54<41:07, 4.45it/s]
train loss:0.07176736743994203
9%|██████▌ | 1029/12000 [03:54<41:11, 4.44it/s]
train loss:0.11096922889001953
9%|██████▌ | 1030/12000 [03:54<41:16, 4.43it/s]
train loss:0.06585231282905195
9%|██████▌ | 1031/12000 [03:55<40:43, 4.49it/s]
train loss:0.05189043724684679
9%|██████▌ | 1032/12000 [03:55<41:21, 4.42it/s]
train loss:0.09729876483534261
9%|██████▋ | 1033/12000 [03:55<41:24, 4.41it/s]
train loss:0.07644015253246898
9%|██████▋ | 1034/12000 [03:55<41:16, 4.43it/s]
train loss:0.07143159251934195
9%|██████▋ | 1035/12000 [03:56<41:24, 4.41it/s]
train loss:0.05858021647647722
9%|██████▋ | 1036/12000 [03:56<41:50, 4.37it/s]
train loss:0.06661164159566678
9%|██████▋ | 1037/12000 [03:56<41:24, 4.41it/s]
train loss:0.04951992682973724
9%|██████▋ | 1038/12000 [03:56<41:42, 4.38it/s]
train loss:0.04981086471097407
9%|██████▋ | 1039/12000 [03:57<41:48, 4.37it/s]
train loss:0.04346276475873172
9%|██████▋ | 1040/12000 [03:57<41:07, 4.44it/s]
train loss:0.04608750442606709
9%|██████▋ | 1041/12000 [03:57<41:23, 4.41it/s]
train loss:0.13312146584131127
9%|██████▋ | 1042/12000 [03:57<41:33, 4.39it/s]
train loss:0.0624678692069182
9%|██████▋ | 1043/12000 [03:57<41:45, 4.37it/s]
train loss:0.08803103080153793
9%|██████▋ | 1044/12000 [03:58<41:25, 4.41it/s]
train loss:0.0319044407079949
9%|██████▋ | 1045/12000 [03:58<41:46, 4.37it/s]
train loss:0.029995548078455548
9%|██████▋ | 1046/12000 [03:58<41:40, 4.38it/s]
train loss:0.11790034168767444
9%|██████▋ | 1047/12000 [03:58<41:39, 4.38it/s]
train loss:0.06071886316090321
9%|██████▋ | 1048/12000 [03:59<41:43, 4.37it/s]
train loss:0.03838504091414059
9%|██████▋ | 1049/12000 [03:59<41:21, 4.41it/s]
train loss:0.05759199211259112
9%|██████▋ | 1050/12000 [03:59<41:23, 4.41it/s]
train loss:0.1171038333167141
9%|██████▋ | 1051/12000 [03:59<41:16, 4.42it/s]
train loss:0.07819016314383118
9%|██████▊ | 1052/12000 [03:59<41:21, 4.41it/s]
train loss:0.046704553264148
9%|██████▊ | 1053/12000 [04:00<41:01, 4.45it/s]
train loss:0.08004286657269535
9%|██████▊ | 1054/12000 [04:00<41:11, 4.43it/s]
train loss:0.029051177535324203
9%|██████▊ | 1055/12000 [04:00<41:31, 4.39it/s]
train loss:0.10041854819415853
9%|██████▊ | 1056/12000 [04:00<41:46, 4.37it/s]
train loss:0.060801942445210956
9%|██████▊ | 1057/12000 [04:01<41:27, 4.40it/s]
train loss:0.1832105969950633
9%|██████▊ | 1058/12000 [04:01<41:16, 4.42it/s]
train loss:0.03263628674076524
9%|██████▊ | 1059/12000 [04:01<41:47, 4.36it/s]
train loss:0.025657954695552848
9%|██████▊ | 1060/12000 [04:01<41:29, 4.40it/s]
train loss:0.05200123589496152
9%|██████▊ | 1061/12000 [04:02<41:53, 4.35it/s]
train loss:0.0689350997697276
9%|██████▊ | 1062/12000 [04:02<41:19, 4.41it/s]
train loss:0.074620169374928
9%|██████▊ | 1063/12000 [04:02<41:22, 4.41it/s]
train loss:0.20680153794608105
9%|██████▊ | 1064/12000 [04:02<41:26, 4.40it/s]
train loss:0.050652725915371566
9%|██████▊ | 1065/12000 [04:02<41:23, 4.40it/s]
train loss:0.13005040807450705
9%|██████▊ | 1066/12000 [04:03<41:21, 4.41it/s]
train loss:0.021652293286986053
9%|██████▊ | 1067/12000 [04:03<40:50, 4.46it/s]
train loss:0.11676070360636864
9%|██████▊ | 1068/12000 [04:03<41:17, 4.41it/s]
train loss:0.16585768900427383
9%|██████▊ | 1069/12000 [04:03<41:20, 4.41it/s]
train loss:0.04967417622316517
9%|██████▊ | 1070/12000 [04:04<41:17, 4.41it/s]
train loss:0.034697814409236624
9%|██████▊ | 1071/12000 [04:04<40:58, 4.44it/s]
train loss:0.029867731199581984
9%|██████▉ | 1072/12000 [04:04<41:18, 4.41it/s]
train loss:0.2725064785804712
9%|██████▉ | 1073/12000 [04:04<42:01, 4.33it/s]
train loss:0.047663362383236214
9%|██████▉ | 1074/12000 [04:04<41:42, 4.37it/s]
train loss:0.033078565802995764
9%|██████▉ | 1075/12000 [04:05<41:36, 4.38it/s]
train loss:0.029428642173719894
9%|██████▉ | 1076/12000 [04:05<41:10, 4.42it/s]
train loss:0.13061840231780808
9%|██████▉ | 1077/12000 [04:05<42:10, 4.32it/s]
train loss:0.04021105844562403
9%|██████▉ | 1078/12000 [04:05<42:17, 4.30it/s]
train loss:0.1721389322111046
9%|██████▉ | 1079/12000 [04:06<41:34, 4.38it/s]
train loss:0.053218318859884844
9%|██████▉ | 1080/12000 [04:06<43:02, 4.23it/s]
train loss:0.04416095757512676
9%|██████▉ | 1081/12000 [04:06<42:28, 4.28it/s]
train loss:0.12164648555078893
9%|██████▉ | 1082/12000 [04:06<41:59, 4.33it/s]
train loss:0.07344587633450823
9%|██████▉ | 1084/12000 [04:07<40:37, 4.48it/s]
train loss:0.03682526037907768 train loss:0.11128467236575366
9%|██████▉ | 1085/12000 [04:07<41:13, 4.41it/s]
train loss:0.07660802325003031
9%|██████▉ | 1086/12000 [04:07<41:49, 4.35it/s]
train loss:0.07005020187845147
9%|██████▉ | 1087/12000 [04:07<41:35, 4.37it/s]
train loss:0.04675172790514494
9%|██████▉ | 1088/12000 [04:08<40:57, 4.44it/s]
train loss:0.05790817028009165
9%|██████▉ | 1089/12000 [04:08<40:59, 4.44it/s]
train loss:0.0905508294016779
9%|██████▉ | 1090/12000 [04:08<40:43, 4.46it/s]
train loss:0.08678351437323534
9%|███████ | 1091/12000 [04:08<41:09, 4.42it/s]
train loss:0.099303703144908
9%|███████ | 1092/12000 [04:09<41:13, 4.41it/s]
train loss:0.071301531340443
9%|███████ | 1093/12000 [04:09<41:01, 4.43it/s]
train loss:0.04082157619764625
9%|███████ | 1094/12000 [04:09<41:07, 4.42it/s]
train loss:0.06430168207487702
9%|███████ | 1095/12000 [04:09<41:06, 4.42it/s]
train loss:0.05141296912577095
9%|███████ | 1096/12000 [04:09<41:18, 4.40it/s]
train loss:0.10100115532441402
9%|███████ | 1097/12000 [04:10<40:40, 4.47it/s]
train loss:0.059364983243503276
9%|███████ | 1098/12000 [04:10<40:48, 4.45it/s]
train loss:0.028557604299083068
9%|███████ | 1099/12000 [04:10<40:46, 4.45it/s]
train loss:0.05226487792800943
9%|███████ | 1100/12000 [04:10<41:07, 4.42it/s]
train loss:0.016903610531575446
9%|███████ | 1101/12000 [04:11<40:48, 4.45it/s]
train loss:0.10110026734336232
9%|███████ | 1102/12000 [04:11<40:45, 4.46it/s]
train loss:0.02553385668768396
9%|███████ | 1103/12000 [04:11<40:48, 4.45it/s]
train loss:0.06189580492430781
9%|███████ | 1104/12000 [04:11<40:59, 4.43it/s]
train loss:0.057679241695511516
9%|███████ | 1105/12000 [04:12<40:55, 4.44it/s]
train loss:0.115845999316068
9%|███████ | 1106/12000 [04:12<40:23, 4.50it/s]
train loss:0.07930404419757636
9%|███████ | 1107/12000 [04:12<40:52, 4.44it/s]
train loss:0.06236039697768711
9%|███████ | 1108/12000 [04:12<40:59, 4.43it/s]
train loss:0.03840120579921549
9%|███████ | 1109/12000 [04:12<40:55, 4.44it/s]
train loss:0.055862568628197135
9%|███████ | 1110/12000 [04:13<40:44, 4.45it/s]
train loss:0.05436563633888453
9%|███████▏ | 1111/12000 [04:13<40:30, 4.48it/s]
train loss:0.1297053037746025
9%|███████▏ | 1112/12000 [04:13<41:01, 4.42it/s]
train loss:0.07556748364931927
9%|███████▏ | 1113/12000 [04:13<40:54, 4.44it/s]
train loss:0.022777497826027792
9%|███████▏ | 1114/12000 [04:14<41:08, 4.41it/s]
train loss:0.10568282283893414
9%|███████▏ | 1115/12000 [04:14<41:14, 4.40it/s]
train loss:0.07428233130675892
9%|███████▏ | 1116/12000 [04:14<41:25, 4.38it/s]
train loss:0.05178189160638398
9%|███████▏ | 1117/12000 [04:14<41:33, 4.36it/s]
train loss:0.036154682602892806
9%|███████▏ | 1118/12000 [04:14<41:40, 4.35it/s]
train loss:0.060598214717030835
9%|███████▏ | 1119/12000 [04:15<40:55, 4.43it/s]
train loss:0.06472913369084331
9%|███████▏ | 1120/12000 [04:15<40:57, 4.43it/s]
train loss:0.029625239077534032
9%|███████▏ | 1121/12000 [04:15<41:06, 4.41it/s]
train loss:0.01856141156483592
9%|███████▏ | 1122/12000 [04:15<41:28, 4.37it/s]
train loss:0.04659349619132089
9%|███████▏ | 1123/12000 [04:16<41:11, 4.40it/s]
train loss:0.03684451232887597
9%|███████▏ | 1124/12000 [04:16<41:08, 4.41it/s]
train loss:0.061696926161558245
9%|███████▏ | 1125/12000 [04:16<40:49, 4.44it/s]
train loss:0.13783615848071087
9%|███████▏ | 1126/12000 [04:16<41:08, 4.41it/s]
train loss:0.08019901003968516
9%|███████▏ | 1127/12000 [04:17<41:17, 4.39it/s]
train loss:0.05482809887196128
9%|███████▏ | 1128/12000 [04:17<40:51, 4.43it/s]
train loss:0.024635665859147213
9%|███████▏ | 1129/12000 [04:17<40:58, 4.42it/s]
train loss:0.08751526773134576
9%|███████▎ | 1130/12000 [04:17<41:04, 4.41it/s]
train loss:0.0835934865563647
9%|███████▎ | 1131/12000 [04:17<41:19, 4.38it/s]
train loss:0.05523857941640364
9%|███████▎ | 1132/12000 [04:18<41:23, 4.38it/s]
train loss:0.028647465976052625
9%|███████▎ | 1133/12000 [04:18<41:20, 4.38it/s]
train loss:0.05766396499893259
9%|███████▎ | 1134/12000 [04:18<41:58, 4.31it/s]
train loss:0.05932070302953278
9%|███████▎ | 1135/12000 [04:18<41:50, 4.33it/s]
train loss:0.19894246996948886
9%|███████▎ | 1136/12000 [04:19<42:21, 4.28it/s]
train loss:0.0907481219928367
9%|███████▎ | 1137/12000 [04:19<42:20, 4.28it/s]
train loss:0.10937226410519249
9%|███████▎ | 1138/12000 [04:19<42:09, 4.29it/s]
train loss:0.061497239634001596
9%|███████▎ | 1139/12000 [04:19<44:20, 4.08it/s]
train loss:0.08026191067854441
10%|███████▎ | 1140/12000 [04:20<44:06, 4.10it/s]
train loss:0.03452696177214452
10%|███████▎ | 1141/12000 [04:20<42:51, 4.22it/s]
train loss:0.041949837322632126
10%|███████▎ | 1142/12000 [04:20<43:06, 4.20it/s]
train loss:0.0597029123798559
10%|███████▎ | 1143/12000 [04:20<42:26, 4.26it/s]
train loss:0.050736269527201915
10%|███████▎ | 1144/12000 [04:20<42:00, 4.31it/s]
train loss:0.025287594892765237
10%|███████▎ | 1145/12000 [04:21<43:06, 4.20it/s]
train loss:0.08082868508354726
10%|███████▎ | 1146/12000 [04:21<42:11, 4.29it/s]
train loss:0.044831015452833585
10%|███████▎ | 1147/12000 [04:21<41:57, 4.31it/s]
train loss:0.05976518779283549
10%|███████▎ | 1148/12000 [04:21<41:48, 4.33it/s]
train loss:0.04837903439855357
10%|███████▎ | 1149/12000 [04:22<41:18, 4.38it/s]
train loss:0.042425715295422634
10%|███████▍ | 1150/12000 [04:22<41:02, 4.41it/s]
train loss:0.05962836006734185
10%|███████▍ | 1151/12000 [04:22<40:57, 4.41it/s]
train loss:0.06087376073384236
10%|███████▍ | 1152/12000 [04:22<41:08, 4.40it/s]
train loss:0.09227894105582525
10%|███████▍ | 1153/12000 [04:23<41:22, 4.37it/s]
train loss:0.08695637533347987
10%|███████▍ | 1154/12000 [04:23<40:57, 4.41it/s]
train loss:0.08399170879818034
10%|███████▍ | 1155/12000 [04:23<40:53, 4.42it/s]
train loss:0.08171912229754437
10%|███████▍ | 1156/12000 [04:23<41:31, 4.35it/s]
train loss:0.045317688823757286
10%|███████▍ | 1157/12000 [04:23<41:13, 4.38it/s]
train loss:0.07439713628420704
10%|███████▍ | 1158/12000 [04:24<40:58, 4.41it/s]
train loss:0.16407750390759643
10%|███████▍ | 1159/12000 [04:24<41:12, 4.39it/s]
train loss:0.022891582889387384
10%|███████▍ | 1160/12000 [04:24<41:22, 4.37it/s]
train loss:0.14395133409046304
10%|███████▍ | 1161/12000 [04:24<41:11, 4.39it/s]
train loss:0.03255082396325181
10%|███████▍ | 1162/12000 [04:25<41:09, 4.39it/s]
train loss:0.12768014136593375
10%|███████▍ | 1163/12000 [04:25<40:43, 4.43it/s]
train loss:0.04799593537024539
10%|███████▍ | 1164/12000 [04:25<40:44, 4.43it/s]
train loss:0.036922250144362526
10%|███████▍ | 1165/12000 [04:25<40:40, 4.44it/s]
train loss:0.05880446620756029
10%|███████▍ | 1166/12000 [04:25<40:26, 4.47it/s]
train loss:0.1553838840427841
10%|███████▍ | 1167/12000 [04:26<40:08, 4.50it/s]
train loss:0.04147350811059246
10%|███████▌ | 1169/12000 [04:26<40:01, 4.51it/s]
train loss:0.05255709531694019 train loss:0.08150498864240291
10%|███████▌ | 1170/12000 [04:26<40:59, 4.40it/s]
train loss:0.05247467877652971
10%|███████▌ | 1171/12000 [04:27<40:46, 4.43it/s]
train loss:0.09353224009697703
10%|███████▌ | 1172/12000 [04:27<40:34, 4.45it/s]
train loss:0.0702551739717637
10%|███████▌ | 1173/12000 [04:27<40:54, 4.41it/s]
train loss:0.08455516500888104
10%|███████▌ | 1174/12000 [04:27<40:55, 4.41it/s]
train loss:0.05538255360906455
10%|███████▌ | 1175/12000 [04:28<40:44, 4.43it/s]
train loss:0.042373679180534925
10%|███████▌ | 1176/12000 [04:28<40:25, 4.46it/s]
train loss:0.07459861552983411
10%|███████▌ | 1177/12000 [04:28<40:16, 4.48it/s]
train loss:0.014091639608406417
10%|███████▌ | 1178/12000 [04:28<40:27, 4.46it/s]
train loss:0.10235324476237262
10%|███████▌ | 1179/12000 [04:28<40:37, 4.44it/s]
train loss:0.03638215617000599
10%|███████▌ | 1180/12000 [04:29<40:35, 4.44it/s]
train loss:0.10835657122692095
10%|███████▌ | 1181/12000 [04:29<40:32, 4.45it/s]
train loss:0.07890551264571387
10%|███████▌ | 1182/12000 [04:29<40:38, 4.44it/s]
train loss:0.014983942747362852
10%|███████▌ | 1183/12000 [04:29<40:39, 4.43it/s]
train loss:0.09472243233516639
10%|███████▌ | 1184/12000 [04:30<40:43, 4.43it/s]
train loss:0.026411741303593795
10%|███████▌ | 1185/12000 [04:30<40:25, 4.46it/s]
train loss:0.08890443552862705
10%|███████▌ | 1186/12000 [04:30<40:35, 4.44it/s]
train loss:0.03568756259930111
10%|███████▌ | 1187/12000 [04:30<40:34, 4.44it/s]
train loss:0.058871083430528326
10%|███████▌ | 1188/12000 [04:30<40:46, 4.42it/s]
train loss:0.03874340694918993
10%|███████▋ | 1189/12000 [04:31<40:29, 4.45it/s]
train loss:0.06681750945989676
10%|███████▋ | 1190/12000 [04:31<40:31, 4.45it/s]
train loss:0.042185401069477775
10%|███████▋ | 1191/12000 [04:31<40:38, 4.43it/s]
train loss:0.02856875473338843
10%|███████▋ | 1192/12000 [04:31<40:47, 4.42it/s]
train loss:0.05527202092252382
10%|███████▋ | 1193/12000 [04:32<41:27, 4.34it/s]
train loss:0.1677496979711593
10%|███████▋ | 1194/12000 [04:32<40:50, 4.41it/s]
train loss:0.12439268890442964
10%|███████▋ | 1195/12000 [04:32<40:49, 4.41it/s]
train loss:0.13318302241092256
10%|███████▋ | 1196/12000 [04:32<40:40, 4.43it/s]
train loss:0.04202906058311926
10%|███████▋ | 1197/12000 [04:32<40:55, 4.40it/s]
train loss:0.09214481213129502
10%|███████▋ | 1198/12000 [04:33<40:27, 4.45it/s]
train loss:0.09671160242642367
10%|███████▋ | 1199/12000 [04:33<40:16, 4.47it/s]
train loss:0.09104235927356917
10%|███████▋ | 1200/12000 [04:33<41:10, 4.37it/s]
train loss:0.028902052809499805 train loss:0.051997821333179844
10%|███████▌ | 1201/12000 [04:35<2:07:19, 1.41it/s]
=== epoch:3, train acc:0.978, test acc:0.976 ===
10%|███████▌ | 1202/12000 [04:35<1:42:56, 1.75it/s]
train loss:0.035243596358189834
10%|███████▌ | 1203/12000 [04:35<1:24:23, 2.13it/s]
train loss:0.06119832437881624
10%|███████▌ | 1204/12000 [04:36<1:11:01, 2.53it/s]
train loss:0.033105020508186284
10%|███████▌ | 1205/12000 [04:36<1:02:11, 2.89it/s]
train loss:0.07563892375000697
10%|███████▋ | 1206/12000 [04:36<55:51, 3.22it/s]
train loss:0.09002531687585354
10%|███████▋ | 1207/12000 [04:36<51:20, 3.50it/s]
train loss:0.06970359078323698
10%|███████▊ | 1208/12000 [04:37<48:11, 3.73it/s]
train loss:0.06384669080807266
10%|███████▊ | 1209/12000 [04:37<45:41, 3.94it/s]
train loss:0.2615425959486349
10%|███████▊ | 1210/12000 [04:37<44:30, 4.04it/s]
train loss:0.06346613713903566
10%|███████▊ | 1211/12000 [04:37<43:40, 4.12it/s]
train loss:0.05293734139419318
10%|███████▊ | 1212/12000 [04:38<43:00, 4.18it/s]
train loss:0.12424338426840931
10%|███████▊ | 1213/12000 [04:38<41:42, 4.31it/s]
train loss:0.05469753268287866
10%|███████▊ | 1214/12000 [04:38<41:27, 4.34it/s]
train loss:0.020237439734810927
10%|███████▊ | 1215/12000 [04:38<41:18, 4.35it/s]
train loss:0.09673653199358932
10%|███████▊ | 1216/12000 [04:38<40:46, 4.41it/s]
train loss:0.05584558852266021
10%|███████▊ | 1217/12000 [04:39<40:35, 4.43it/s]
train loss:0.09819466776844842
10%|███████▊ | 1218/12000 [04:39<40:41, 4.42it/s]
train loss:0.04947758906873058
10%|███████▊ | 1219/12000 [04:39<40:39, 4.42it/s]
train loss:0.03303100101780097
10%|███████▊ | 1220/12000 [04:39<40:42, 4.41it/s]
train loss:0.0440394708626038
10%|███████▊ | 1221/12000 [04:40<40:45, 4.41it/s]
train loss:0.06065562216188032
10%|███████▊ | 1222/12000 [04:40<40:33, 4.43it/s]
train loss:0.06775105647632107
10%|███████▊ | 1223/12000 [04:40<40:27, 4.44it/s]
train loss:0.04200583669971332
10%|███████▊ | 1224/12000 [04:40<40:48, 4.40it/s]
train loss:0.03722428300195747
10%|███████▊ | 1225/12000 [04:40<40:46, 4.40it/s]
train loss:0.06798415498701069
10%|███████▊ | 1226/12000 [04:41<40:31, 4.43it/s]
train loss:0.1571259413282013
10%|███████▊ | 1227/12000 [04:41<40:29, 4.43it/s]
train loss:0.08644376692891807
10%|███████▉ | 1228/12000 [04:41<40:46, 4.40it/s]
train loss:0.06545811556959771
10%|███████▉ | 1229/12000 [04:41<40:43, 4.41it/s]
train loss:0.0553104615281803
10%|███████▉ | 1230/12000 [04:42<40:39, 4.41it/s]
train loss:0.036528135760929635
10%|███████▉ | 1231/12000 [04:42<40:26, 4.44it/s]
train loss:0.08587517292665613
10%|███████▉ | 1232/12000 [04:42<40:33, 4.43it/s]
train loss:0.06075638290087866
10%|███████▉ | 1233/12000 [04:42<40:36, 4.42it/s]
train loss:0.02442573434002258
10%|███████▉ | 1234/12000 [04:42<40:43, 4.41it/s]
train loss:0.09752979338664339
10%|███████▉ | 1235/12000 [04:43<40:12, 4.46it/s]
train loss:0.04060600034401923
10%|███████▉ | 1236/12000 [04:43<40:18, 4.45it/s]
train loss:0.04338810977686793
10%|███████▉ | 1237/12000 [04:43<40:24, 4.44it/s]
train loss:0.05175525852249916
10%|███████▉ | 1238/12000 [04:43<40:08, 4.47it/s]
train loss:0.038222745413537526
10%|███████▉ | 1239/12000 [04:44<40:28, 4.43it/s]
train loss:0.04231751460099649
10%|███████▉ | 1240/12000 [04:44<40:24, 4.44it/s]
train loss:0.126975739528626
10%|███████▉ | 1241/12000 [04:44<40:28, 4.43it/s]
train loss:0.032952270149322185
10%|███████▉ | 1242/12000 [04:44<40:08, 4.47it/s]
train loss:0.07205697818631732
10%|███████▉ | 1243/12000 [04:45<40:41, 4.41it/s]
train loss:0.08247419251366676
10%|███████▉ | 1244/12000 [04:45<40:11, 4.46it/s]
train loss:0.041782725816658796
10%|███████▉ | 1245/12000 [04:45<40:27, 4.43it/s]
train loss:0.06722591157074416
10%|███████▉ | 1246/12000 [04:45<40:26, 4.43it/s]
train loss:0.07679496752251486
10%|████████ | 1247/12000 [04:45<40:30, 4.42it/s]
train loss:0.24321471231681835
10%|████████ | 1248/12000 [04:46<40:36, 4.41it/s]
train loss:0.06426317985641679
10%|████████ | 1249/12000 [04:46<40:29, 4.43it/s]
train loss:0.027132826410325595
10%|████████ | 1250/12000 [04:46<40:33, 4.42it/s]
train loss:0.07249969145810037
10%|████████ | 1251/12000 [04:46<40:36, 4.41it/s]
train loss:0.12626354386745595
10%|████████ | 1252/12000 [04:47<40:54, 4.38it/s]
train loss:0.06217578583427521
10%|████████ | 1253/12000 [04:47<40:23, 4.43it/s]
train loss:0.09252525746492213
10%|████████ | 1254/12000 [04:47<40:27, 4.43it/s]
train loss:0.055736124757256374
10%|████████ | 1255/12000 [04:47<40:41, 4.40it/s]
train loss:0.0893394619879697
10%|████████ | 1256/12000 [04:47<40:51, 4.38it/s]
train loss:0.06317543715812046
10%|████████ | 1257/12000 [04:48<40:21, 4.44it/s]
train loss:0.05223872765546402
10%|████████ | 1258/12000 [04:48<40:46, 4.39it/s]
train loss:0.0793238112320105
10%|████████ | 1259/12000 [04:48<40:53, 4.38it/s]
train loss:0.07290272388532172
10%|████████ | 1260/12000 [04:48<40:50, 4.38it/s]
train loss:0.03163914426920334
11%|████████ | 1261/12000 [04:49<41:12, 4.34it/s]
train loss:0.05079552335031028
11%|████████ | 1262/12000 [04:49<41:19, 4.33it/s]
train loss:0.04726498578855141
11%|████████ | 1263/12000 [04:49<41:06, 4.35it/s]
train loss:0.12608346613171964
11%|████████ | 1264/12000 [04:49<40:57, 4.37it/s]
train loss:0.043473767018383305
11%|████████ | 1265/12000 [04:50<40:39, 4.40it/s]
train loss:0.08783338980534935
11%|████████ | 1266/12000 [04:50<41:44, 4.29it/s]
train loss:0.1646125678453235
11%|████████▏ | 1267/12000 [04:50<41:32, 4.31it/s]
train loss:0.04523929372088359
11%|████████▏ | 1268/12000 [04:50<41:43, 4.29it/s]
train loss:0.05954526307308429
11%|████████▏ | 1269/12000 [04:50<41:24, 4.32it/s]
train loss:0.03354844229600127
11%|████████▏ | 1270/12000 [04:51<40:46, 4.39it/s]
train loss:0.06346519379015797
11%|████████▏ | 1271/12000 [04:51<40:47, 4.38it/s]
train loss:0.0275183177354378
11%|████████▏ | 1272/12000 [04:51<41:04, 4.35it/s]
train loss:0.01985837696490712
11%|████████▏ | 1273/12000 [04:51<40:56, 4.37it/s]
train loss:0.06148008093588815
11%|████████▏ | 1274/12000 [04:52<41:48, 4.28it/s]
train loss:0.015676671378105727
11%|████████▏ | 1275/12000 [04:52<41:15, 4.33it/s]
train loss:0.17877277175313636
11%|████████▏ | 1276/12000 [04:52<41:48, 4.28it/s]
train loss:0.045294048664750466
11%|████████▏ | 1277/12000 [04:52<41:30, 4.31it/s]
train loss:0.0651314287677887
11%|████████▏ | 1278/12000 [04:53<41:20, 4.32it/s]
train loss:0.04346405082969206
11%|████████▏ | 1279/12000 [04:53<40:30, 4.41it/s]
train loss:0.06427954533671311
11%|████████▏ | 1280/12000 [04:53<40:31, 4.41it/s]
train loss:0.08471756592431551
11%|████████▏ | 1281/12000 [04:53<41:18, 4.33it/s]
train loss:0.12351965565763048
11%|████████▏ | 1282/12000 [04:53<41:02, 4.35it/s]
train loss:0.082728788842968
11%|████████▏ | 1283/12000 [04:54<40:32, 4.41it/s]
train loss:0.0675578627284459
11%|████████▏ | 1284/12000 [04:54<40:30, 4.41it/s]
train loss:0.061553629655412126
11%|████████▏ | 1285/12000 [04:54<40:35, 4.40it/s]
train loss:0.11318085124784749
11%|████████▎ | 1286/12000 [04:54<40:35, 4.40it/s]
train loss:0.025585173907380097
11%|████████▎ | 1287/12000 [04:55<40:17, 4.43it/s]
train loss:0.01811817453825737
11%|████████▎ | 1288/12000 [04:55<40:10, 4.44it/s]
train loss:0.127560137025278
11%|████████▎ | 1289/12000 [04:55<40:08, 4.45it/s]
train loss:0.10938363846802693
11%|████████▎ | 1290/12000 [04:55<40:18, 4.43it/s]
train loss:0.054255808877798364
11%|████████▎ | 1291/12000 [04:55<40:21, 4.42it/s]
train loss:0.027878429608895274
11%|████████▎ | 1292/12000 [04:56<39:57, 4.47it/s]
train loss:0.048127426011944356
11%|████████▎ | 1293/12000 [04:56<39:57, 4.47it/s]
train loss:0.08583882247673881
11%|████████▎ | 1294/12000 [04:56<40:09, 4.44it/s]
train loss:0.03113575871770131
11%|████████▎ | 1295/12000 [04:56<40:13, 4.44it/s]
train loss:0.1294126208111711
11%|████████▎ | 1296/12000 [04:57<40:16, 4.43it/s]
train loss:0.039774475222581936
11%|████████▎ | 1297/12000 [04:57<40:10, 4.44it/s]
train loss:0.05210633663289944
11%|████████▎ | 1298/12000 [04:57<40:12, 4.44it/s]
train loss:0.07752142844007637
11%|████████▎ | 1299/12000 [04:57<39:45, 4.49it/s]
train loss:0.08227177364576135
11%|████████▎ | 1300/12000 [04:57<40:45, 4.37it/s]
train loss:0.02074714426619513
11%|████████▎ | 1301/12000 [04:58<40:10, 4.44it/s]
train loss:0.04656959878149682
11%|████████▎ | 1302/12000 [04:58<40:22, 4.42it/s]
train loss:0.10079582148730667
11%|████████▎ | 1303/12000 [04:58<40:40, 4.38it/s]
train loss:0.11350172522879953
11%|████████▎ | 1304/12000 [04:58<41:08, 4.33it/s]
train loss:0.012185492270553879
11%|████████▎ | 1305/12000 [04:59<40:45, 4.37it/s]
train loss:0.15402229636389117
11%|████████▍ | 1306/12000 [04:59<41:08, 4.33it/s]
train loss:0.1045300383575348
11%|████████▍ | 1307/12000 [04:59<40:43, 4.38it/s]
train loss:0.024187997887205163
11%|████████▍ | 1308/12000 [04:59<40:29, 4.40it/s]
train loss:0.06308274157114324
11%|████████▍ | 1309/12000 [05:00<40:49, 4.37it/s]
train loss:0.07663477723955245
11%|████████▍ | 1310/12000 [05:00<40:27, 4.40it/s]
train loss:0.03620209338001692
11%|████████▍ | 1311/12000 [05:00<40:27, 4.40it/s]
train loss:0.08778235289433656
11%|████████▍ | 1312/12000 [05:00<40:47, 4.37it/s]
train loss:0.03828833707220529
11%|████████▍ | 1313/12000 [05:00<40:37, 4.38it/s]
train loss:0.03610869675260889
11%|████████▍ | 1314/12000 [05:01<40:22, 4.41it/s]
train loss:0.069261213655646
11%|████████▍ | 1315/12000 [05:01<42:56, 4.15it/s]
train loss:0.10603328528896012
11%|████████▍ | 1316/12000 [05:01<42:28, 4.19it/s]
train loss:0.10203711097317025
11%|████████▍ | 1317/12000 [05:01<42:17, 4.21it/s]
train loss:0.02224427934381299
11%|████████▍ | 1318/12000 [05:02<41:11, 4.32it/s]
train loss:0.041896956244528376
11%|████████▍ | 1319/12000 [05:02<40:50, 4.36it/s]
train loss:0.06365903299721984
11%|████████▍ | 1320/12000 [05:02<41:12, 4.32it/s]
train loss:0.05593489521594133
11%|████████▍ | 1321/12000 [05:02<41:06, 4.33it/s]
train loss:0.05537359746909304
11%|████████▍ | 1322/12000 [05:03<40:51, 4.36it/s]
train loss:0.06755266634301411
11%|████████▍ | 1323/12000 [05:03<40:24, 4.40it/s]
train loss:0.04761178580554923
11%|████████▍ | 1324/12000 [05:03<40:23, 4.41it/s]
train loss:0.12709685466961568
11%|████████▌ | 1325/12000 [05:03<40:23, 4.40it/s]
train loss:0.0642349530284033
11%|████████▌ | 1326/12000 [05:03<39:58, 4.45it/s]
train loss:0.06827904186320016
11%|████████▌ | 1327/12000 [05:04<39:42, 4.48it/s]
train loss:0.04647278576202225
11%|████████▌ | 1328/12000 [05:04<39:50, 4.46it/s]
train loss:0.06022249123706941
11%|████████▌ | 1329/12000 [05:04<40:23, 4.40it/s]
train loss:0.09266609936764979
11%|████████▌ | 1330/12000 [05:04<40:23, 4.40it/s]
train loss:0.04218356667425052
11%|████████▌ | 1331/12000 [05:05<40:11, 4.42it/s]
train loss:0.05401591986802758
11%|████████▌ | 1332/12000 [05:05<40:10, 4.43it/s]
train loss:0.06928268965132926
11%|████████▌ | 1333/12000 [05:05<39:58, 4.45it/s]
train loss:0.04206024534652288
11%|████████▌ | 1334/12000 [05:05<40:25, 4.40it/s]
train loss:0.08108552463405755
11%|████████▌ | 1335/12000 [05:06<40:31, 4.39it/s]
train loss:0.06303322330576297
11%|████████▌ | 1336/12000 [05:06<39:58, 4.45it/s]
train loss:0.030923605968237802
11%|████████▌ | 1337/12000 [05:06<39:58, 4.45it/s]
train loss:0.06572911413776353
11%|████████▌ | 1338/12000 [05:06<40:08, 4.43it/s]
train loss:0.04965838906949672
11%|████████▌ | 1339/12000 [05:06<39:55, 4.45it/s]
train loss:0.008779129805285968
11%|████████▌ | 1340/12000 [05:07<40:02, 4.44it/s]
train loss:0.09013822093472278
11%|████████▌ | 1341/12000 [05:07<39:36, 4.48it/s]
train loss:0.020505781179125857
11%|████████▌ | 1342/12000 [05:07<40:16, 4.41it/s]
train loss:0.039954964940336145
11%|████████▌ | 1343/12000 [05:07<40:24, 4.40it/s]
train loss:0.0757092481444713
11%|████████▌ | 1344/12000 [05:08<40:36, 4.37it/s]
train loss:0.07406165042346259
11%|████████▋ | 1345/12000 [05:08<40:17, 4.41it/s]
train loss:0.08704027058684076
11%|████████▋ | 1346/12000 [05:08<40:44, 4.36it/s]
train loss:0.05694633261216109
11%|████████▋ | 1347/12000 [05:08<40:17, 4.41it/s]
train loss:0.0956257036812914
11%|████████▋ | 1348/12000 [05:08<40:23, 4.40it/s]
train loss:0.042472569827988735
11%|████████▋ | 1349/12000 [05:09<39:56, 4.45it/s]
train loss:0.04791382230330947
11%|████████▋ | 1350/12000 [05:09<40:15, 4.41it/s]
train loss:0.1263115959919816
11%|████████▋ | 1351/12000 [05:09<40:22, 4.40it/s]
train loss:0.07943448630376775
11%|████████▋ | 1352/12000 [05:09<40:27, 4.39it/s]
train loss:0.027990438827233722
11%|████████▋ | 1353/12000 [05:10<40:12, 4.41it/s]
train loss:0.04887203139322658
11%|████████▋ | 1354/12000 [05:10<40:00, 4.44it/s]
train loss:0.016631613356922252
11%|████████▋ | 1355/12000 [05:10<39:56, 4.44it/s]
train loss:0.05592412376020443
11%|████████▋ | 1356/12000 [05:10<40:26, 4.39it/s]
train loss:0.05445762180437641
11%|████████▋ | 1357/12000 [05:10<40:24, 4.39it/s]
train loss:0.061403419271687215
11%|████████▋ | 1358/12000 [05:11<39:57, 4.44it/s]
train loss:0.06646022998003324
11%|████████▋ | 1359/12000 [05:11<40:02, 4.43it/s]
train loss:0.07096565947833723
11%|████████▋ | 1360/12000 [05:11<40:03, 4.43it/s]
train loss:0.0589351019359043
11%|████████▋ | 1361/12000 [05:11<40:33, 4.37it/s]
train loss:0.08575483027748591
11%|████████▋ | 1362/12000 [05:12<40:11, 4.41it/s]
train loss:0.05353133017661707
11%|████████▋ | 1363/12000 [05:12<40:06, 4.42it/s]
train loss:0.039805481006134624
11%|████████▊ | 1364/12000 [05:12<39:58, 4.43it/s]
train loss:0.031807152237345454
11%|████████▊ | 1365/12000 [05:12<40:15, 4.40it/s]
train loss:0.054462228360400225
11%|████████▊ | 1366/12000 [05:13<40:25, 4.38it/s]
train loss:0.1415238079256694
11%|████████▊ | 1367/12000 [05:13<39:52, 4.44it/s]
train loss:0.05108195532059757
11%|████████▊ | 1368/12000 [05:13<39:54, 4.44it/s]
train loss:0.014506699568900761
11%|████████▊ | 1369/12000 [05:13<40:22, 4.39it/s]
train loss:0.043634571653733245
11%|████████▊ | 1370/12000 [05:13<40:14, 4.40it/s]
train loss:0.030182388351838202
11%|████████▊ | 1371/12000 [05:14<39:57, 4.43it/s]
train loss:0.1378335143904156
11%|████████▊ | 1372/12000 [05:14<39:57, 4.43it/s]
train loss:0.053441093958361545
11%|████████▊ | 1373/12000 [05:14<40:13, 4.40it/s]
train loss:0.034632118583991976
11%|████████▊ | 1374/12000 [05:14<39:48, 4.45it/s]
train loss:0.0574870417487921
11%|████████▊ | 1375/12000 [05:15<40:07, 4.41it/s]
train loss:0.03574468836361019
11%|████████▊ | 1376/12000 [05:15<39:52, 4.44it/s]
train loss:0.05432851018179238
11%|████████▊ | 1377/12000 [05:15<39:58, 4.43it/s]
train loss:0.050846915016146015
11%|████████▊ | 1378/12000 [05:15<39:56, 4.43it/s]
train loss:0.09782878489923075
11%|████████▊ | 1379/12000 [05:15<40:02, 4.42it/s]
train loss:0.04919014638764189
12%|████████▊ | 1380/12000 [05:16<39:35, 4.47it/s]
train loss:0.05394811943029903
12%|████████▊ | 1381/12000 [05:16<39:25, 4.49it/s]
train loss:0.05240422305490854
12%|████████▊ | 1382/12000 [05:16<39:47, 4.45it/s]
train loss:0.046491932084130584
12%|████████▊ | 1383/12000 [05:16<40:06, 4.41it/s]
train loss:0.04854903789536873
12%|████████▉ | 1384/12000 [05:17<39:55, 4.43it/s]
train loss:0.02827780325281098
12%|████████▉ | 1385/12000 [05:17<39:58, 4.42it/s]
train loss:0.07648969544689556
12%|████████▉ | 1386/12000 [05:17<39:55, 4.43it/s]
train loss:0.0383182951490869
12%|████████▉ | 1387/12000 [05:17<40:04, 4.41it/s]
train loss:0.07739412673838887
12%|████████▉ | 1388/12000 [05:17<40:09, 4.40it/s]
train loss:0.06343537542022931
12%|████████▉ | 1389/12000 [05:18<39:46, 4.45it/s]
train loss:0.040372084184205306
12%|████████▉ | 1390/12000 [05:18<39:50, 4.44it/s]
train loss:0.03635778911112837
12%|████████▉ | 1391/12000 [05:18<39:42, 4.45it/s]
train loss:0.03599326530412594
12%|████████▉ | 1392/12000 [05:18<40:01, 4.42it/s]
train loss:0.05703039221096382
12%|████████▉ | 1393/12000 [05:19<39:45, 4.45it/s]
train loss:0.02517031532037296
12%|████████▉ | 1394/12000 [05:19<39:59, 4.42it/s]
train loss:0.0592789775955251
12%|████████▉ | 1395/12000 [05:19<40:06, 4.41it/s]
train loss:0.07185602256320191
12%|████████▉ | 1396/12000 [05:19<40:04, 4.41it/s]
train loss:0.01721715897895592
12%|████████▉ | 1397/12000 [05:20<40:07, 4.40it/s]
train loss:0.10403619629012241
12%|████████▉ | 1398/12000 [05:20<39:31, 4.47it/s]
train loss:0.02527409216211811
12%|████████▉ | 1399/12000 [05:20<39:44, 4.45it/s]
train loss:0.04302177836183464
12%|████████▉ | 1400/12000 [05:20<39:50, 4.43it/s]
train loss:0.1366938827514271
12%|████████▉ | 1401/12000 [05:20<39:55, 4.42it/s]
train loss:0.0462008091380615
12%|████████▉ | 1402/12000 [05:21<39:42, 4.45it/s]
train loss:0.0266246565590938
12%|█████████ | 1403/12000 [05:21<39:46, 4.44it/s]
train loss:0.08160062098917858
12%|█████████ | 1404/12000 [05:21<39:37, 4.46it/s]
train loss:0.038314053243269926
12%|█████████ | 1405/12000 [05:21<40:07, 4.40it/s]
train loss:0.03366030352962423
12%|█████████ | 1406/12000 [05:22<40:11, 4.39it/s]
train loss:0.0988797070134411
12%|█████████ | 1407/12000 [05:22<39:44, 4.44it/s]
train loss:0.06138511292749822
12%|█████████ | 1408/12000 [05:22<40:08, 4.40it/s]
train loss:0.13422595773658214
12%|█████████ | 1409/12000 [05:22<40:18, 4.38it/s]
train loss:0.15917454973440345
12%|█████████ | 1410/12000 [05:22<40:11, 4.39it/s]
train loss:0.029780102660760345
12%|█████████ | 1411/12000 [05:23<39:38, 4.45it/s]
train loss:0.08101129364199881
12%|█████████ | 1412/12000 [05:23<40:03, 4.41it/s]
train loss:0.07337039004095655
12%|█████████ | 1413/12000 [05:23<40:06, 4.40it/s]
train loss:0.014631625387563327
12%|█████████ | 1414/12000 [05:23<39:55, 4.42it/s]
train loss:0.05523113030765268
12%|█████████ | 1415/12000 [05:24<40:05, 4.40it/s]
train loss:0.019364132469954186
12%|█████████ | 1416/12000 [05:24<40:11, 4.39it/s]
train loss:0.021139335654934633
12%|█████████ | 1417/12000 [05:24<40:17, 4.38it/s]
train loss:0.05344071886228873
12%|█████████ | 1418/12000 [05:24<40:34, 4.35it/s]
train loss:0.1539646937811051
12%|█████████ | 1419/12000 [05:25<40:35, 4.34it/s]
train loss:0.04750389385914559
12%|█████████ | 1420/12000 [05:25<40:01, 4.41it/s]
train loss:0.0898946708171712
12%|█████████ | 1421/12000 [05:25<39:54, 4.42it/s]
train loss:0.10304249206763239
12%|█████████ | 1422/12000 [05:25<40:07, 4.39it/s]
train loss:0.049006986561993225
12%|█████████▏ | 1423/12000 [05:25<40:17, 4.38it/s]
train loss:0.12764689473055532
12%|█████████▏ | 1424/12000 [05:26<39:42, 4.44it/s]
train loss:0.04970621694886615
12%|█████████▏ | 1425/12000 [05:26<39:51, 4.42it/s]
train loss:0.014738031642540443
12%|█████████▏ | 1426/12000 [05:26<39:54, 4.42it/s]
train loss:0.04469840130229631
12%|█████████▏ | 1427/12000 [05:26<39:58, 4.41it/s]
train loss:0.0693573723195573
12%|█████████▏ | 1428/12000 [05:27<39:53, 4.42it/s]
train loss:0.0746909411037927
12%|█████████▏ | 1429/12000 [05:27<39:37, 4.45it/s]
train loss:0.02148869220676057
12%|█████████▏ | 1430/12000 [05:27<39:44, 4.43it/s]
train loss:0.09066955842834848
12%|█████████▏ | 1431/12000 [05:27<40:01, 4.40it/s]
train loss:0.10675287050805958
12%|█████████▏ | 1432/12000 [05:27<39:58, 4.41it/s]
train loss:0.04560178254834429
12%|█████████▏ | 1433/12000 [05:28<39:28, 4.46it/s]
train loss:0.15590401936273537
12%|█████████▏ | 1434/12000 [05:28<39:48, 4.42it/s]
train loss:0.019392939482469566
12%|█████████▏ | 1435/12000 [05:28<39:37, 4.44it/s]
train loss:0.056555379768637566
12%|█████████▏ | 1436/12000 [05:28<39:53, 4.41it/s]
train loss:0.0806605518322398
12%|█████████▏ | 1437/12000 [05:29<39:33, 4.45it/s]
train loss:0.025421246214048586
12%|█████████▏ | 1438/12000 [05:29<39:33, 4.45it/s]
train loss:0.021849582405390575
12%|█████████▏ | 1439/12000 [05:29<39:48, 4.42it/s]
train loss:0.06638279066238494
12%|█████████▏ | 1440/12000 [05:29<39:51, 4.42it/s]
train loss:0.03217679971164868
12%|█████████▏ | 1441/12000 [05:29<39:42, 4.43it/s]
train loss:0.014626951589528054
12%|█████████▎ | 1442/12000 [05:30<39:30, 4.45it/s]
train loss:0.06747001370269472
12%|█████████▎ | 1443/12000 [05:30<39:47, 4.42it/s]
train loss:0.016253958442547373
12%|█████████▎ | 1444/12000 [05:30<39:48, 4.42it/s]
train loss:0.05378492690986409
12%|█████████▎ | 1445/12000 [05:30<40:07, 4.38it/s]
train loss:0.06234633288366909
12%|█████████▎ | 1446/12000 [05:31<39:54, 4.41it/s]
train loss:0.025013711350747984
12%|█████████▎ | 1447/12000 [05:31<39:55, 4.41it/s]
train loss:0.06978035612462954
12%|█████████▎ | 1448/12000 [05:31<39:38, 4.44it/s]
train loss:0.052121289760920106
12%|█████████▎ | 1449/12000 [05:31<40:01, 4.39it/s]
train loss:0.0426741977279945
12%|█████████▎ | 1450/12000 [05:32<40:06, 4.38it/s]
train loss:0.029790195018350906
12%|█████████▎ | 1451/12000 [05:32<39:39, 4.43it/s]
train loss:0.018463298524631057
12%|█████████▎ | 1452/12000 [05:32<39:45, 4.42it/s]
train loss:0.0734683458457641
12%|█████████▎ | 1453/12000 [05:32<39:46, 4.42it/s]
train loss:0.024817299294110966
12%|█████████▎ | 1454/12000 [05:32<39:42, 4.43it/s]
train loss:0.06041834500596093
12%|█████████▎ | 1455/12000 [05:33<39:27, 4.45it/s]
train loss:0.06621090836919846
12%|█████████▎ | 1456/12000 [05:33<39:31, 4.45it/s]
train loss:0.02960259436652106
12%|█████████▎ | 1457/12000 [05:33<39:41, 4.43it/s]
train loss:0.029279106496167325
12%|█████████▎ | 1458/12000 [05:33<39:44, 4.42it/s]
train loss:0.014061533262899358
12%|█████████▎ | 1459/12000 [05:34<39:50, 4.41it/s]
train loss:0.07440768125959869
12%|█████████▎ | 1460/12000 [05:34<39:40, 4.43it/s]
train loss:0.06692951422452281
12%|█████████▎ | 1461/12000 [05:34<39:48, 4.41it/s]
train loss:0.06253609326156241
12%|█████████▍ | 1462/12000 [05:34<39:56, 4.40it/s]
train loss:0.042791475503041944
12%|█████████▍ | 1463/12000 [05:34<39:56, 4.40it/s]
train loss:0.07178921891787185
12%|█████████▍ | 1464/12000 [05:35<39:29, 4.45it/s]
train loss:0.07815818053508183
12%|█████████▍ | 1465/12000 [05:35<39:27, 4.45it/s]
train loss:0.06815629178392645
12%|█████████▍ | 1466/12000 [05:35<39:47, 4.41it/s]
train loss:0.03266247571194783
12%|█████████▍ | 1467/12000 [05:35<39:32, 4.44it/s]
train loss:0.028672078943756386
12%|█████████▍ | 1468/12000 [05:36<39:36, 4.43it/s]
train loss:0.08600980711937915
12%|█████████▍ | 1469/12000 [05:36<39:44, 4.42it/s]
train loss:0.0333889129786603
12%|█████████▍ | 1470/12000 [05:36<39:29, 4.44it/s]
train loss:0.015127538615034852
12%|█████████▍ | 1471/12000 [05:36<39:53, 4.40it/s]
train loss:0.049645135306364094
12%|█████████▍ | 1472/12000 [05:37<40:09, 4.37it/s]
train loss:0.10311723536380431
12%|█████████▍ | 1474/12000 [05:37<39:15, 4.47it/s]
train loss:0.046555023483238006 train loss:0.0377035265780081
12%|█████████▍ | 1475/12000 [05:37<39:48, 4.41it/s]
train loss:0.023636764643602093
12%|█████████▍ | 1476/12000 [05:37<40:05, 4.38it/s]
train loss:0.07064732051972071
12%|█████████▍ | 1477/12000 [05:38<39:36, 4.43it/s]
train loss:0.030458822884697943
12%|█████████▍ | 1478/12000 [05:38<39:53, 4.40it/s]
train loss:0.014675924911424014
12%|█████████▍ | 1479/12000 [05:38<40:55, 4.28it/s]
train loss:0.036421147898601125
12%|█████████▍ | 1480/12000 [05:38<40:52, 4.29it/s]
train loss:0.07755923686390206
12%|█████████▌ | 1481/12000 [05:39<40:35, 4.32it/s]
train loss:0.04069858276750499
12%|█████████▌ | 1482/12000 [05:39<39:54, 4.39it/s]
train loss:0.005749055742957369
12%|█████████▌ | 1483/12000 [05:39<39:55, 4.39it/s]
train loss:0.14227384463330162
12%|█████████▌ | 1484/12000 [05:39<40:05, 4.37it/s]
train loss:0.03940966818152111
12%|█████████▌ | 1485/12000 [05:40<43:19, 4.04it/s]
train loss:0.04374410191732709
12%|█████████▌ | 1486/12000 [05:40<42:19, 4.14it/s]
train loss:0.03134602990424658
12%|█████████▌ | 1487/12000 [05:40<41:47, 4.19it/s]
train loss:0.031098617370189024
12%|█████████▌ | 1488/12000 [05:40<41:24, 4.23it/s]
train loss:0.036849654394843806
12%|█████████▌ | 1489/12000 [05:40<41:05, 4.26it/s]
train loss:0.061743124633264215
12%|█████████▌ | 1490/12000 [05:41<40:15, 4.35it/s]
train loss:0.05092738799413375
12%|█████████▌ | 1491/12000 [05:41<39:52, 4.39it/s]
train loss:0.06343541794772331
12%|█████████▌ | 1492/12000 [05:41<40:06, 4.37it/s]
train loss:0.030318316961207143
12%|█████████▌ | 1493/12000 [05:41<40:03, 4.37it/s]
train loss:0.03682074918581485
12%|█████████▌ | 1494/12000 [05:42<39:46, 4.40it/s]
train loss:0.06075494452353543
12%|█████████▌ | 1495/12000 [05:42<39:38, 4.42it/s]
train loss:0.025214681297634774
12%|█████████▌ | 1496/12000 [05:42<39:48, 4.40it/s]
train loss:0.05276667594477203
12%|█████████▌ | 1497/12000 [05:42<39:29, 4.43it/s]
train loss:0.022262710334498136
12%|█████████▌ | 1498/12000 [05:42<39:50, 4.39it/s]
train loss:0.12672577333060808
12%|█████████▌ | 1499/12000 [05:43<39:16, 4.46it/s]
train loss:0.04692004670549164
12%|█████████▋ | 1500/12000 [05:43<39:03, 4.48it/s]
train loss:0.008831147123721694
13%|█████████▋ | 1501/12000 [05:43<39:38, 4.41it/s]
train loss:0.052544179736783415
13%|█████████▋ | 1502/12000 [05:43<39:36, 4.42it/s]
train loss:0.07482864560140276
13%|█████████▋ | 1503/12000 [05:44<39:19, 4.45it/s]
train loss:0.035260262418856485
13%|█████████▋ | 1504/12000 [05:44<39:22, 4.44it/s]
train loss:0.10723172933834606
13%|█████████▋ | 1505/12000 [05:44<39:20, 4.45it/s]
train loss:0.032811596553962145
13%|█████████▋ | 1506/12000 [05:44<39:21, 4.44it/s]
train loss:0.044053825331496016
13%|█████████▋ | 1507/12000 [05:45<39:41, 4.41it/s]
train loss:0.027325953145880676
13%|█████████▋ | 1508/12000 [05:45<39:09, 4.47it/s]
train loss:0.04887214429617501
13%|█████████▋ | 1509/12000 [05:45<39:16, 4.45it/s]
train loss:0.025765919271334738
13%|█████████▋ | 1510/12000 [05:45<39:37, 4.41it/s]
train loss:0.15673330218975587
13%|█████████▋ | 1511/12000 [05:45<39:42, 4.40it/s]
train loss:0.06490465114013715
13%|█████████▋ | 1512/12000 [05:46<39:21, 4.44it/s]
train loss:0.04057904191402122
13%|█████████▋ | 1513/12000 [05:46<39:46, 4.39it/s]
train loss:0.07932712498093268
13%|█████████▋ | 1514/12000 [05:46<39:45, 4.40it/s]
train loss:0.0627160358532894
13%|█████████▋ | 1515/12000 [05:46<39:35, 4.41it/s]
train loss:0.02102158826455442
13%|█████████▋ | 1516/12000 [05:47<39:57, 4.37it/s]
train loss:0.0157267694929238
13%|█████████▋ | 1517/12000 [05:47<39:12, 4.46it/s]
train loss:0.0666287162056904
13%|█████████▋ | 1518/12000 [05:47<39:26, 4.43it/s]
train loss:0.04689806689987422
13%|█████████▋ | 1519/12000 [05:47<39:42, 4.40it/s]
train loss:0.035768626669788854
13%|█████████▊ | 1520/12000 [05:47<39:52, 4.38it/s]
train loss:0.05227169286030858
13%|█████████▊ | 1521/12000 [05:48<39:19, 4.44it/s]
train loss:0.020071491083100843
13%|█████████▊ | 1522/12000 [05:48<39:38, 4.41it/s]
train loss:0.08757159262667054
13%|█████████▊ | 1523/12000 [05:48<39:42, 4.40it/s]
train loss:0.01115075796111505
13%|█████████▊ | 1524/12000 [05:48<40:03, 4.36it/s]
train loss:0.05585036948322211
13%|█████████▊ | 1525/12000 [05:49<39:57, 4.37it/s]
train loss:0.11772886432280352
13%|█████████▊ | 1526/12000 [05:49<39:54, 4.37it/s]
train loss:0.022375267831138954
13%|█████████▊ | 1527/12000 [05:49<40:00, 4.36it/s]
train loss:0.07059654935666071
13%|█████████▊ | 1528/12000 [05:49<39:30, 4.42it/s]
train loss:0.02894741357320212
13%|█████████▊ | 1530/12000 [05:50<38:52, 4.49it/s]
train loss:0.02018406563608456 train loss:0.04313607098321267
13%|█████████▊ | 1531/12000 [05:50<39:15, 4.45it/s]
train loss:0.018923326302533693
13%|█████████▊ | 1532/12000 [05:50<40:39, 4.29it/s]
train loss:0.0521365562073465
13%|█████████▊ | 1533/12000 [05:50<40:29, 4.31it/s]
train loss:0.06658508916811362
13%|█████████▊ | 1534/12000 [05:51<40:01, 4.36it/s]
train loss:0.06358091689909305
13%|█████████▊ | 1535/12000 [05:51<40:17, 4.33it/s]
train loss:0.055986813856557266
13%|█████████▊ | 1536/12000 [05:51<40:24, 4.32it/s]
train loss:0.11123587018510735
13%|█████████▊ | 1537/12000 [05:51<40:16, 4.33it/s]
train loss:0.10857773021514802
13%|█████████▊ | 1538/12000 [05:52<40:00, 4.36it/s]
train loss:0.051779156387405004
13%|█████████▉ | 1539/12000 [05:52<39:26, 4.42it/s]
train loss:0.05942095992017998
13%|█████████▉ | 1540/12000 [05:52<39:37, 4.40it/s]
train loss:0.04269766575041279
13%|█████████▉ | 1541/12000 [05:52<39:41, 4.39it/s]
train loss:0.08831339417330669
13%|█████████▉ | 1542/12000 [05:52<39:49, 4.38it/s]
train loss:0.030583014635433545
13%|█████████▉ | 1543/12000 [05:53<39:50, 4.37it/s]
train loss:0.04054551649679301
13%|█████████▉ | 1544/12000 [05:53<39:42, 4.39it/s]
train loss:0.01582731451446495
13%|█████████▉ | 1545/12000 [05:53<39:52, 4.37it/s]
train loss:0.06551918137969005
13%|█████████▉ | 1546/12000 [05:53<39:38, 4.40it/s]
train loss:0.1139281608465226
13%|█████████▉ | 1547/12000 [05:54<40:27, 4.31it/s]
train loss:0.08537257838006579
13%|█████████▉ | 1548/12000 [05:54<40:07, 4.34it/s]
train loss:0.04395108804158372
13%|█████████▉ | 1549/12000 [05:54<40:28, 4.30it/s]
train loss:0.02495568671016051
13%|█████████▉ | 1550/12000 [05:54<39:58, 4.36it/s]
train loss:0.03454230196406054
13%|█████████▉ | 1551/12000 [05:55<40:06, 4.34it/s]
train loss:0.034427268289351505
13%|█████████▉ | 1552/12000 [05:55<39:38, 4.39it/s]
train loss:0.03608174750616375
13%|█████████▉ | 1553/12000 [05:55<39:43, 4.38it/s]
train loss:0.012445696430097398
13%|█████████▉ | 1554/12000 [05:55<39:40, 4.39it/s]
train loss:0.015311720745275455
13%|█████████▉ | 1555/12000 [05:55<40:00, 4.35it/s]
train loss:0.031113569780002622
13%|█████████▉ | 1556/12000 [05:56<39:55, 4.36it/s]
train loss:0.11041738131191797
13%|█████████▉ | 1557/12000 [05:56<40:00, 4.35it/s]
train loss:0.05039180884731613
13%|█████████▉ | 1558/12000 [05:56<40:06, 4.34it/s]
train loss:0.03467237127376513
13%|██████████ | 1559/12000 [05:56<40:00, 4.35it/s]
train loss:0.06638859077043933
13%|██████████ | 1560/12000 [05:57<39:35, 4.39it/s]
train loss:0.032134848307650225
13%|██████████ | 1561/12000 [05:57<39:25, 4.41it/s]
train loss:0.053693388155277466
13%|██████████ | 1562/12000 [05:57<39:30, 4.40it/s]
train loss:0.038680365843135736
13%|██████████ | 1563/12000 [05:57<39:35, 4.39it/s]
train loss:0.03196889155351367
13%|██████████ | 1564/12000 [05:58<39:36, 4.39it/s]
train loss:0.032710916986319755
13%|██████████ | 1565/12000 [05:58<39:21, 4.42it/s]
train loss:0.010722384405475589
13%|██████████ | 1566/12000 [05:58<39:25, 4.41it/s]
train loss:0.022497018410163785
13%|██████████ | 1567/12000 [05:58<39:30, 4.40it/s]
train loss:0.03844059329076819
13%|██████████ | 1568/12000 [05:58<40:10, 4.33it/s]
train loss:0.027221470723529838
13%|██████████ | 1569/12000 [05:59<39:36, 4.39it/s]
train loss:0.05657804920480836
13%|██████████ | 1570/12000 [05:59<39:33, 4.40it/s]
train loss:0.015579365832925789
13%|██████████ | 1571/12000 [05:59<39:30, 4.40it/s]
train loss:0.03549383609590298
13%|██████████ | 1572/12000 [05:59<39:24, 4.41it/s]
train loss:0.022207731717825294
13%|██████████ | 1573/12000 [06:00<39:28, 4.40it/s]
train loss:0.04993431450258503
13%|██████████ | 1574/12000 [06:00<39:05, 4.45it/s]
train loss:0.06084017088960012
13%|██████████ | 1575/12000 [06:00<39:15, 4.43it/s]
train loss:0.03561237588565524
13%|██████████ | 1576/12000 [06:00<39:16, 4.42it/s]
train loss:0.03933848067879544
13%|██████████ | 1577/12000 [06:00<39:24, 4.41it/s]
train loss:0.025736165534846474
13%|██████████▏ | 1578/12000 [06:01<39:01, 4.45it/s]
train loss:0.08152466558274779
13%|██████████▏ | 1579/12000 [06:01<39:18, 4.42it/s]
train loss:0.03132540995916302
13%|██████████▏ | 1580/12000 [06:01<39:21, 4.41it/s]
train loss:0.05397215828112818
13%|██████████▏ | 1581/12000 [06:01<39:26, 4.40it/s]
train loss:0.023135946037685432
13%|██████████▏ | 1582/12000 [06:02<39:14, 4.43it/s]
train loss:0.030058930864506932
13%|██████████▏ | 1583/12000 [06:02<39:09, 4.43it/s]
train loss:0.04224366098601878
13%|██████████▏ | 1584/12000 [06:02<39:13, 4.43it/s]
train loss:0.050190903031249345
13%|██████████▏ | 1585/12000 [06:02<39:18, 4.42it/s]
train loss:0.06574295158813574
13%|██████████▏ | 1586/12000 [06:03<39:19, 4.41it/s]
train loss:0.06318788343970394
13%|██████████▏ | 1587/12000 [06:03<38:49, 4.47it/s]
train loss:0.005485973864130975
13%|██████████▏ | 1588/12000 [06:03<39:12, 4.43it/s]
train loss:0.09726178225397385
13%|██████████▏ | 1589/12000 [06:03<39:11, 4.43it/s]
train loss:0.09784217366885446
13%|██████████▏ | 1590/12000 [06:03<39:15, 4.42it/s]
train loss:0.026098755953280747
13%|██████████▏ | 1591/12000 [06:04<39:30, 4.39it/s]
train loss:0.031414253321425896
13%|██████████▏ | 1592/12000 [06:04<39:11, 4.43it/s]
train loss:0.037140851924029786
13%|██████████▏ | 1593/12000 [06:04<39:10, 4.43it/s]
train loss:0.03277998904811349
13%|██████████▏ | 1594/12000 [06:04<39:29, 4.39it/s]
train loss:0.025834088387303375
13%|██████████▏ | 1595/12000 [06:05<39:18, 4.41it/s]
train loss:0.024626993532889937
13%|██████████▏ | 1596/12000 [06:05<39:18, 4.41it/s]
train loss:0.0982747317498792
13%|██████████▏ | 1597/12000 [06:05<39:28, 4.39it/s]
train loss:0.011078168589025739
13%|██████████▎ | 1598/12000 [06:05<39:56, 4.34it/s]
train loss:0.03459922972162264
13%|██████████▎ | 1599/12000 [06:05<39:46, 4.36it/s]
train loss:0.026560406225060715
13%|██████████▎ | 1600/12000 [06:06<39:12, 4.42it/s]
train loss:0.039716239545483506
13%|██████████▎ | 1601/12000 [06:06<39:17, 4.41it/s]
train loss:0.024422249223137456
13%|██████████▎ | 1602/12000 [06:06<39:18, 4.41it/s]
train loss:0.02579472424035605
13%|██████████▎ | 1603/12000 [06:06<39:12, 4.42it/s]
train loss:0.06187743625044189
13%|██████████▎ | 1604/12000 [06:07<39:11, 4.42it/s]
train loss:0.043577212069268366
13%|██████████▎ | 1605/12000 [06:07<38:59, 4.44it/s]
train loss:0.05662219474398724
13%|██████████▎ | 1606/12000 [06:07<39:04, 4.43it/s]
train loss:0.036696675375025294
13%|██████████▎ | 1607/12000 [06:07<39:00, 4.44it/s]
train loss:0.01707669747115814
13%|██████████▎ | 1608/12000 [06:07<39:37, 4.37it/s]
train loss:0.07675920171441686
13%|██████████▎ | 1609/12000 [06:08<38:57, 4.45it/s]
train loss:0.007975719739104385
13%|██████████▎ | 1610/12000 [06:08<39:15, 4.41it/s]
train loss:0.07963810947117785
13%|██████████▎ | 1611/12000 [06:08<40:04, 4.32it/s]
train loss:0.04206051046920308
13%|██████████▎ | 1612/12000 [06:08<39:50, 4.35it/s]
train loss:0.0168332233814202
13%|██████████▎ | 1613/12000 [06:09<39:31, 4.38it/s]
train loss:0.017979631551761074
13%|██████████▎ | 1614/12000 [06:09<39:16, 4.41it/s]
train loss:0.04796030686480417
13%|██████████▎ | 1615/12000 [06:09<39:25, 4.39it/s]
train loss:0.026131374281910095
13%|██████████▎ | 1616/12000 [06:09<39:28, 4.38it/s]
train loss:0.04446628518937592
13%|██████████▍ | 1617/12000 [06:10<39:25, 4.39it/s]
train loss:0.013275230819942592
13%|██████████▍ | 1618/12000 [06:10<39:09, 4.42it/s]
train loss:0.005710496975504093
13%|██████████▍ | 1619/12000 [06:10<39:11, 4.41it/s]
train loss:0.01924025697257023
14%|██████████▍ | 1620/12000 [06:10<39:13, 4.41it/s]
train loss:0.022079407552779297
14%|██████████▍ | 1621/12000 [06:10<39:17, 4.40it/s]
train loss:0.011249780837447298
14%|██████████▍ | 1622/12000 [06:11<38:57, 4.44it/s]
train loss:0.020516857711380326
14%|██████████▍ | 1623/12000 [06:11<39:03, 4.43it/s]
train loss:0.06980709615693688
14%|██████████▍ | 1624/12000 [06:11<39:04, 4.43it/s]
train loss:0.03004942738092721
14%|██████████▍ | 1625/12000 [06:11<38:57, 4.44it/s]
train loss:0.04418727290682299
14%|██████████▍ | 1626/12000 [06:12<39:10, 4.41it/s]
train loss:0.04377904530194269
14%|██████████▍ | 1627/12000 [06:12<38:56, 4.44it/s]
train loss:0.02303508573912297
14%|██████████▍ | 1628/12000 [06:12<40:23, 4.28it/s]
train loss:0.0447306529417115
14%|██████████▍ | 1629/12000 [06:12<40:18, 4.29it/s]
train loss:0.10390998978184321
14%|██████████▍ | 1630/12000 [06:13<40:15, 4.29it/s]
train loss:0.029652730207785666
14%|██████████▍ | 1631/12000 [06:13<39:22, 4.39it/s]
train loss:0.046826584431007096
14%|██████████▍ | 1632/12000 [06:13<39:32, 4.37it/s]
train loss:0.08207211795219306
14%|██████████▍ | 1633/12000 [06:13<39:39, 4.36it/s]
train loss:0.04087304313553502
14%|██████████▍ | 1634/12000 [06:13<40:01, 4.32it/s]
train loss:0.06907316682659523
14%|██████████▍ | 1635/12000 [06:14<39:41, 4.35it/s]
train loss:0.03269429610762127
14%|██████████▍ | 1636/12000 [06:14<39:36, 4.36it/s]
train loss:0.0290393847356282
14%|██████████▌ | 1637/12000 [06:14<39:26, 4.38it/s]
train loss:0.04473631416091656
14%|██████████▌ | 1638/12000 [06:14<39:06, 4.42it/s]
train loss:0.04930612084981538
14%|██████████▌ | 1639/12000 [06:15<39:21, 4.39it/s]
train loss:0.01852608114605995
14%|██████████▌ | 1640/12000 [06:15<38:57, 4.43it/s]
train loss:0.12263192654079719
14%|██████████▌ | 1641/12000 [06:15<39:09, 4.41it/s]
train loss:0.026240570642151885
14%|██████████▌ | 1642/12000 [06:15<39:15, 4.40it/s]
train loss:0.05470342079480345
14%|██████████▌ | 1643/12000 [06:15<39:15, 4.40it/s]
train loss:0.01720612955442971
14%|██████████▌ | 1644/12000 [06:16<38:58, 4.43it/s]
train loss:0.0416538973680423
14%|██████████▌ | 1645/12000 [06:16<39:13, 4.40it/s]
train loss:0.03523521468801251
14%|██████████▌ | 1646/12000 [06:16<39:12, 4.40it/s]
train loss:0.020600503855876348
14%|██████████▌ | 1647/12000 [06:16<39:11, 4.40it/s]
train loss:0.10142141082611174
14%|██████████▌ | 1648/12000 [06:17<38:59, 4.42it/s]
train loss:0.16030488474286023
14%|██████████▌ | 1649/12000 [06:17<38:46, 4.45it/s]
train loss:0.038538323449229916
14%|██████████▌ | 1650/12000 [06:17<38:44, 4.45it/s]
train loss:0.04462148828532583
14%|██████████▌ | 1651/12000 [06:17<39:32, 4.36it/s]
train loss:0.03179500983992137
14%|██████████▌ | 1652/12000 [06:18<39:33, 4.36it/s]
train loss:0.018138203575313518
14%|██████████▌ | 1653/12000 [06:18<39:15, 4.39it/s]
train loss:0.03412587910723266
14%|██████████▌ | 1654/12000 [06:18<39:03, 4.42it/s]
train loss:0.10997982646983115
14%|██████████▌ | 1655/12000 [06:18<39:40, 4.35it/s]
train loss:0.13528890401315108
14%|██████████▋ | 1656/12000 [06:18<39:31, 4.36it/s]
train loss:0.06540254433926641
14%|██████████▋ | 1657/12000 [06:19<39:11, 4.40it/s]
train loss:0.0463719526424864
14%|██████████▋ | 1658/12000 [06:19<40:22, 4.27it/s]
train loss:0.04318144401655158
14%|██████████▋ | 1659/12000 [06:19<40:24, 4.27it/s]
train loss:0.04366125808939485
14%|██████████▋ | 1660/12000 [06:19<39:59, 4.31it/s]
train loss:0.09357716491616444
14%|██████████▋ | 1661/12000 [06:20<39:52, 4.32it/s]
train loss:0.12807229118066568
14%|██████████▋ | 1662/12000 [06:20<39:16, 4.39it/s]
train loss:0.01647738974740082
14%|██████████▋ | 1663/12000 [06:20<39:45, 4.33it/s]
train loss:0.024168223733252094
14%|██████████▋ | 1664/12000 [06:20<39:19, 4.38it/s]
train loss:0.0559404506933724
14%|██████████▋ | 1665/12000 [06:21<39:10, 4.40it/s]
train loss:0.05324034275987855
14%|██████████▋ | 1666/12000 [06:21<38:50, 4.43it/s]
train loss:0.03491120686111231
14%|██████████▋ | 1667/12000 [06:21<38:55, 4.42it/s]
train loss:0.028129983746306268
14%|██████████▋ | 1668/12000 [06:21<38:40, 4.45it/s]
train loss:0.010012265372813628
14%|██████████▋ | 1669/12000 [06:21<39:01, 4.41it/s]
train loss:0.02026045555562427
14%|██████████▋ | 1670/12000 [06:22<38:42, 4.45it/s]
train loss:0.050341809773900355
14%|██████████▋ | 1671/12000 [06:22<38:47, 4.44it/s]
train loss:0.09153031853117759
14%|██████████▋ | 1672/12000 [06:22<38:34, 4.46it/s]
train loss:0.0333864279848629
14%|██████████▋ | 1673/12000 [06:22<39:07, 4.40it/s]
train loss:0.010437447380473603
14%|██████████▋ | 1674/12000 [06:23<39:15, 4.38it/s]
train loss:0.029815942118254782
14%|██████████▋ | 1675/12000 [06:23<39:01, 4.41it/s]
train loss:0.1205881391780152
14%|██████████▊ | 1676/12000 [06:23<39:09, 4.39it/s]
train loss:0.024303987247701178
14%|██████████▊ | 1677/12000 [06:23<39:12, 4.39it/s]
train loss:0.05047010671144526
14%|██████████▊ | 1678/12000 [06:23<38:46, 4.44it/s]
train loss:0.047984219050313165
14%|██████████▊ | 1679/12000 [06:24<38:42, 4.44it/s]
train loss:0.06016653610778234
14%|██████████▊ | 1680/12000 [06:24<38:50, 4.43it/s]
train loss:0.052727201084341146
14%|██████████▊ | 1681/12000 [06:24<38:52, 4.42it/s]
train loss:0.03343641259440089
14%|██████████▊ | 1682/12000 [06:24<38:55, 4.42it/s]
train loss:0.03365699544458807
14%|██████████▊ | 1683/12000 [06:25<38:52, 4.42it/s]
train loss:0.08680416137163777
14%|██████████▊ | 1684/12000 [06:25<39:05, 4.40it/s]
train loss:0.08285719072947254
14%|██████████▊ | 1685/12000 [06:25<38:55, 4.42it/s]
train loss:0.07996906787106178
14%|██████████▊ | 1686/12000 [06:25<38:58, 4.41it/s]
train loss:0.015215322308765327
14%|██████████▊ | 1687/12000 [06:25<39:30, 4.35it/s]
train loss:0.041466210422269854
14%|██████████▊ | 1688/12000 [06:26<38:51, 4.42it/s]
train loss:0.014861712906455342
14%|██████████▊ | 1689/12000 [06:26<38:59, 4.41it/s]
train loss:0.023587996054884253
14%|██████████▊ | 1690/12000 [06:26<39:20, 4.37it/s]
train loss:0.08193333713704724
14%|██████████▊ | 1691/12000 [06:26<39:36, 4.34it/s]
train loss:0.07059060988852045
14%|██████████▊ | 1692/12000 [06:27<39:10, 4.39it/s]
train loss:0.04695028228346519
14%|██████████▊ | 1693/12000 [06:27<38:56, 4.41it/s]
train loss:0.023618191483386525
14%|██████████▊ | 1694/12000 [06:27<39:12, 4.38it/s]
train loss:0.04994742562722566
14%|██████████▉ | 1695/12000 [06:27<39:21, 4.36it/s]
train loss:0.02028641193836391
14%|██████████▉ | 1696/12000 [06:28<39:12, 4.38it/s]
train loss:0.021428456750825286
14%|██████████▉ | 1697/12000 [06:28<39:15, 4.37it/s]
train loss:0.07238356196960229
14%|██████████▉ | 1698/12000 [06:28<39:26, 4.35it/s]
train loss:0.041299614550763086
14%|██████████▉ | 1699/12000 [06:28<39:26, 4.35it/s]
train loss:0.05014661791077336
14%|██████████▉ | 1700/12000 [06:28<39:17, 4.37it/s]
train loss:0.06514350491988041
14%|██████████▉ | 1701/12000 [06:29<38:55, 4.41it/s]
train loss:0.018440473475981725
14%|██████████▉ | 1702/12000 [06:29<38:47, 4.42it/s]
train loss:0.026415631001441606
14%|██████████▉ | 1703/12000 [06:29<39:04, 4.39it/s]
train loss:0.024826007622582934
14%|██████████▉ | 1704/12000 [06:29<39:04, 4.39it/s]
train loss:0.047347557351313595
14%|██████████▉ | 1705/12000 [06:30<39:05, 4.39it/s]
train loss:0.023592218438876628
14%|██████████▉ | 1706/12000 [06:30<39:16, 4.37it/s]
train loss:0.07990700237995975
14%|██████████▉ | 1707/12000 [06:30<39:17, 4.37it/s]
train loss:0.026407962660775133
14%|██████████▉ | 1708/12000 [06:30<39:18, 4.36it/s]
train loss:0.0465548272055398
14%|██████████▉ | 1709/12000 [06:31<38:53, 4.41it/s]
train loss:0.044383125061109946
14%|██████████▉ | 1710/12000 [06:31<38:37, 4.44it/s]
train loss:0.04404053894441603
14%|██████████▉ | 1711/12000 [06:31<38:49, 4.42it/s]
train loss:0.019082960858206634
14%|██████████▉ | 1712/12000 [06:31<38:47, 4.42it/s]
train loss:0.02772856941201664
14%|██████████▉ | 1713/12000 [06:31<38:47, 4.42it/s]
train loss:0.0871155647141601
14%|██████████▉ | 1714/12000 [06:32<38:40, 4.43it/s]
train loss:0.0928830516019106
14%|███████████ | 1715/12000 [06:32<38:33, 4.45it/s]
train loss:0.040518647986058746
14%|███████████ | 1716/12000 [06:32<38:35, 4.44it/s]
train loss:0.017024477330218526
14%|███████████ | 1717/12000 [06:32<38:46, 4.42it/s]
train loss:0.012823619780680908
14%|███████████ | 1718/12000 [06:33<38:48, 4.42it/s]
train loss:0.022703354337095135
14%|███████████ | 1719/12000 [06:33<38:27, 4.46it/s]
train loss:0.055288863503605075
14%|███████████ | 1720/12000 [06:33<38:33, 4.44it/s]
train loss:0.2131362431248885
14%|███████████ | 1721/12000 [06:33<38:37, 4.44it/s]
train loss:0.08222830744544335
14%|███████████ | 1722/12000 [06:33<38:25, 4.46it/s]
train loss:0.043537957467481965
14%|███████████ | 1723/12000 [06:34<38:27, 4.45it/s]
train loss:0.029073813591223015
14%|███████████ | 1724/12000 [06:34<38:34, 4.44it/s]
train loss:0.04886330651994521
14%|███████████ | 1725/12000 [06:34<38:40, 4.43it/s]
train loss:0.040479651240090175
14%|███████████ | 1726/12000 [06:34<38:45, 4.42it/s]
train loss:0.030629004283491593
14%|███████████ | 1727/12000 [06:35<38:37, 4.43it/s]
train loss:0.04246082130219845
14%|███████████ | 1728/12000 [06:35<38:31, 4.44it/s]
train loss:0.048358541658460964
14%|███████████ | 1729/12000 [06:35<38:42, 4.42it/s]
train loss:0.021571459434910668
14%|███████████ | 1730/12000 [06:35<38:59, 4.39it/s]
train loss:0.07040296540747247
14%|███████████ | 1731/12000 [06:35<39:45, 4.30it/s]
train loss:0.03750740859943138
14%|███████████ | 1732/12000 [06:36<39:17, 4.36it/s]
train loss:0.05062955038452722
14%|███████████ | 1733/12000 [06:36<39:14, 4.36it/s]
train loss:0.010125826635741382
14%|███████████▏ | 1734/12000 [06:36<39:17, 4.36it/s]
train loss:0.03823644797640313
14%|███████████▏ | 1735/12000 [06:36<39:08, 4.37it/s]
train loss:0.046889422056794076
14%|███████████▏ | 1736/12000 [06:37<38:56, 4.39it/s]
train loss:0.028793925322814683
14%|███████████▏ | 1737/12000 [06:37<38:39, 4.42it/s]
train loss:0.024435437289249413
14%|███████████▏ | 1738/12000 [06:37<38:48, 4.41it/s]
train loss:0.056061079895105115
14%|███████████▏ | 1739/12000 [06:37<38:56, 4.39it/s]
train loss:0.022056947366705847
14%|███████████▏ | 1740/12000 [06:38<39:12, 4.36it/s]
train loss:0.16482239056503714
15%|███████████▏ | 1741/12000 [06:38<38:29, 4.44it/s]
train loss:0.048140503088638
15%|███████████▏ | 1742/12000 [06:38<38:48, 4.41it/s]
train loss:0.037288174590105305
15%|███████████▏ | 1743/12000 [06:38<38:50, 4.40it/s]
train loss:0.09173028644464132
15%|███████████▏ | 1744/12000 [06:38<39:09, 4.36it/s]
train loss:0.0811587827319048
15%|███████████▏ | 1745/12000 [06:39<38:47, 4.41it/s]
train loss:0.03807735013250653
15%|███████████▏ | 1746/12000 [06:39<38:45, 4.41it/s]
train loss:0.03717489810100875
15%|███████████▏ | 1747/12000 [06:39<38:54, 4.39it/s]
train loss:0.017272399533090822
15%|███████████▏ | 1748/12000 [06:39<38:59, 4.38it/s]
train loss:0.04117933342351864
15%|███████████▏ | 1749/12000 [06:40<38:53, 4.39it/s]
train loss:0.042231364377560796
15%|███████████▏ | 1750/12000 [06:40<38:28, 4.44it/s]
train loss:0.05111981514222939
15%|███████████▏ | 1751/12000 [06:40<38:44, 4.41it/s]
train loss:0.009690225409671628
15%|███████████▏ | 1752/12000 [06:40<38:52, 4.39it/s]
train loss:0.029317727438063237
15%|███████████▏ | 1753/12000 [06:40<38:54, 4.39it/s]
train loss:0.011119681316670982
15%|███████████▎ | 1754/12000 [06:41<38:33, 4.43it/s]
train loss:0.07442661696075079
15%|███████████▎ | 1755/12000 [06:41<38:30, 4.43it/s]
train loss:0.026172640220533717
15%|███████████▎ | 1756/12000 [06:41<38:42, 4.41it/s]
train loss:0.040034733375569675
15%|███████████▎ | 1757/12000 [06:41<38:54, 4.39it/s]
train loss:0.03976703791426145
15%|███████████▎ | 1758/12000 [06:42<38:40, 4.41it/s]
train loss:0.013549674453751237
15%|███████████▎ | 1759/12000 [06:42<38:30, 4.43it/s]
train loss:0.12329047323706498
15%|███████████▎ | 1760/12000 [06:42<38:21, 4.45it/s]
train loss:0.023493870119920195
15%|███████████▎ | 1761/12000 [06:42<38:46, 4.40it/s]
train loss:0.025641449390944735
15%|███████████▎ | 1762/12000 [06:43<38:56, 4.38it/s]
train loss:0.08724755334464566
15%|███████████▎ | 1763/12000 [06:43<39:05, 4.36it/s]
train loss:0.026287029207899222
15%|███████████▎ | 1764/12000 [06:43<39:12, 4.35it/s]
train loss:0.019379101156532266
15%|███████████▎ | 1765/12000 [06:43<38:50, 4.39it/s]
train loss:0.05007443194415359
15%|███████████▎ | 1766/12000 [06:43<39:10, 4.35it/s]
train loss:0.13016307590343565
15%|███████████▎ | 1767/12000 [06:44<38:47, 4.40it/s]
train loss:0.04735348958355026
15%|███████████▎ | 1768/12000 [06:44<38:57, 4.38it/s]
train loss:0.01703876855465886
15%|███████████▎ | 1769/12000 [06:44<39:17, 4.34it/s]
train loss:0.07656712067215189
15%|███████████▎ | 1770/12000 [06:44<40:38, 4.19it/s]
train loss:0.028328479970863487
15%|███████████▎ | 1771/12000 [06:45<40:01, 4.26it/s]
train loss:0.10225198237622861
15%|███████████▎ | 1772/12000 [06:45<39:26, 4.32it/s]
train loss:0.01961833050297658
15%|███████████▍ | 1773/12000 [06:45<38:56, 4.38it/s]
train loss:0.01757801152049291
15%|███████████▍ | 1774/12000 [06:45<39:15, 4.34it/s]
train loss:0.04021991717149305
15%|███████████▍ | 1775/12000 [06:46<39:04, 4.36it/s]
train loss:0.0713465084546695
15%|███████████▍ | 1776/12000 [06:46<38:19, 4.45it/s]
train loss:0.09382323304201944
15%|███████████▍ | 1777/12000 [06:46<38:42, 4.40it/s]
train loss:0.013000205100619854
15%|███████████▍ | 1778/12000 [06:46<38:45, 4.40it/s]
train loss:0.027287865159830046
15%|███████████▍ | 1779/12000 [06:46<38:33, 4.42it/s]
train loss:0.012789298073002607
15%|███████████▍ | 1780/12000 [06:47<38:19, 4.44it/s]
train loss:0.13235294413314166
15%|███████████▍ | 1781/12000 [06:47<38:29, 4.43it/s]
train loss:0.03842930998715892
15%|███████████▍ | 1782/12000 [06:47<38:33, 4.42it/s]
train loss:0.0401597626607084
15%|███████████▍ | 1783/12000 [06:47<38:38, 4.41it/s]
train loss:0.011591331560033703
15%|███████████▍ | 1784/12000 [06:48<38:42, 4.40it/s]
train loss:0.024189642926370953
15%|███████████▍ | 1785/12000 [06:48<38:49, 4.38it/s]
train loss:0.025135075533419357
15%|███████████▍ | 1786/12000 [06:48<38:45, 4.39it/s]
train loss:0.012697691130964505
15%|███████████▍ | 1787/12000 [06:48<38:33, 4.41it/s]
train loss:0.0713525014830032
15%|███████████▍ | 1788/12000 [06:48<38:42, 4.40it/s]
train loss:0.02489631275194988
15%|███████████▍ | 1789/12000 [06:49<38:13, 4.45it/s]
train loss:0.009216248565078012
15%|███████████▍ | 1790/12000 [06:49<38:26, 4.43it/s]
train loss:0.039237654075733056
15%|███████████▍ | 1791/12000 [06:49<38:19, 4.44it/s]
train loss:0.015154711144173669
15%|███████████▍ | 1792/12000 [06:49<39:14, 4.34it/s]
train loss:0.060912762245912785
15%|███████████▌ | 1793/12000 [06:50<39:11, 4.34it/s]
train loss:0.032232142536149325
15%|███████████▌ | 1794/12000 [06:50<38:27, 4.42it/s]
train loss:0.006666463542169528
15%|███████████▌ | 1795/12000 [06:50<38:34, 4.41it/s]
train loss:0.060602120500259635
15%|███████████▌ | 1796/12000 [06:50<38:36, 4.40it/s]
train loss:0.01565779898456766
15%|███████████▌ | 1798/12000 [06:51<37:35, 4.52it/s]
train loss:0.01923292219425608 train loss:0.04475289851726542
15%|███████████▌ | 1799/12000 [06:51<37:52, 4.49it/s]
train loss:0.017387889384371663
15%|███████████▌ | 1800/12000 [06:51<38:41, 4.39it/s]
train loss:0.07923729481236508 train loss:0.11253372979741223
15%|███████████▎ | 1801/12000 [06:53<1:58:59, 1.43it/s]
=== epoch:4, train acc:0.981, test acc:0.982 ===
15%|███████████▎ | 1802/12000 [06:53<1:34:58, 1.79it/s]
train loss:0.05644642873033225
15%|███████████▎ | 1803/12000 [06:53<1:18:01, 2.18it/s]
train loss:0.1464416925345233
15%|███████████▎ | 1804/12000 [06:54<1:05:46, 2.58it/s]
train loss:0.027591004384513108
15%|███████████▌ | 1805/12000 [06:54<57:38, 2.95it/s]
train loss:0.06906634528295671
15%|███████████▌ | 1806/12000 [06:54<51:42, 3.29it/s]
train loss:0.12190702762682108
15%|███████████▌ | 1807/12000 [06:54<47:47, 3.55it/s]
train loss:0.03447494732267359
15%|███████████▌ | 1808/12000 [06:55<45:37, 3.72it/s]
train loss:0.04767396038456609
15%|███████████▌ | 1809/12000 [06:55<43:18, 3.92it/s]
train loss:0.06593119305613172
15%|███████████▌ | 1810/12000 [06:55<41:42, 4.07it/s]
train loss:0.04088593713084204
15%|███████████▌ | 1811/12000 [06:55<40:58, 4.14it/s]
train loss:0.027465629867486022
15%|███████████▋ | 1812/12000 [06:55<40:24, 4.20it/s]
train loss:0.028245632555408896
15%|███████████▋ | 1813/12000 [06:56<39:26, 4.30it/s]
train loss:0.09462745486116067
15%|███████████▋ | 1814/12000 [06:56<39:24, 4.31it/s]
train loss:0.077568503861235
15%|███████████▋ | 1815/12000 [06:56<39:17, 4.32it/s]
train loss:0.18125415871761175
15%|███████████▋ | 1816/12000 [06:56<39:05, 4.34it/s]
train loss:0.040924364081160035
15%|███████████▋ | 1817/12000 [06:57<38:45, 4.38it/s]
train loss:0.037358356047292846
15%|███████████▋ | 1818/12000 [06:57<38:42, 4.38it/s]
train loss:0.015625330658029755
15%|███████████▋ | 1819/12000 [06:57<39:35, 4.29it/s]
train loss:0.03578785927290442
15%|███████████▋ | 1820/12000 [06:57<39:28, 4.30it/s]
train loss:0.034580394853581324
15%|███████████▋ | 1821/12000 [06:58<39:21, 4.31it/s]
train loss:0.031491592794652655
15%|███████████▋ | 1822/12000 [06:58<38:56, 4.36it/s]
train loss:0.14501660984255862
15%|███████████▋ | 1823/12000 [06:58<38:47, 4.37it/s]
train loss:0.08521462118119988
15%|███████████▋ | 1824/12000 [06:58<38:51, 4.37it/s]
train loss:0.03947364268976859
15%|███████████▋ | 1825/12000 [06:58<38:46, 4.37it/s]
train loss:0.03324829644135635
15%|███████████▋ | 1826/12000 [06:59<38:25, 4.41it/s]
train loss:0.04433681623325167
15%|███████████▋ | 1827/12000 [06:59<38:22, 4.42it/s]
train loss:0.10683708444242383
15%|███████████▋ | 1828/12000 [06:59<38:43, 4.38it/s]
train loss:0.01577098974896215
15%|███████████▋ | 1829/12000 [06:59<42:22, 4.00it/s]
train loss:0.024142077529364057
15%|███████████▋ | 1830/12000 [07:00<42:12, 4.02it/s]
train loss:0.06818214141616923
15%|███████████▋ | 1831/12000 [07:00<41:09, 4.12it/s]
train loss:0.026897879705879403
15%|███████████▊ | 1832/12000 [07:00<40:31, 4.18it/s]
train loss:0.026555556494974
15%|███████████▊ | 1833/12000 [07:00<40:06, 4.22it/s]
train loss:0.01936250977571828
15%|███████████▊ | 1834/12000 [07:01<39:38, 4.27it/s]
train loss:0.2253329814392523
15%|███████████▊ | 1835/12000 [07:01<39:06, 4.33it/s]
train loss:0.06223075151926059
15%|███████████▊ | 1836/12000 [07:01<38:57, 4.35it/s]
train loss:0.02304525363015689
15%|███████████▊ | 1837/12000 [07:01<38:59, 4.34it/s]
train loss:0.08170883016382863
15%|███████████▊ | 1838/12000 [07:02<38:54, 4.35it/s]
train loss:0.046413972522917
15%|███████████▊ | 1839/12000 [07:02<38:14, 4.43it/s]
train loss:0.054497723066262174
15%|███████████▊ | 1840/12000 [07:02<38:19, 4.42it/s]
train loss:0.06703867799938577
15%|███████████▊ | 1841/12000 [07:02<38:19, 4.42it/s]
train loss:0.03859129632903381
15%|███████████▊ | 1842/12000 [07:02<38:39, 4.38it/s]
train loss:0.017331195368278714
15%|███████████▊ | 1843/12000 [07:03<38:19, 4.42it/s]
train loss:0.009035757960384855
15%|███████████▊ | 1844/12000 [07:03<38:20, 4.42it/s]
train loss:0.01922089419448781
15%|███████████▊ | 1845/12000 [07:03<38:18, 4.42it/s]
train loss:0.0424303320166924
15%|███████████▊ | 1846/12000 [07:03<38:20, 4.41it/s]
train loss:0.0340165191049018
15%|███████████▊ | 1847/12000 [07:04<38:11, 4.43it/s]
train loss:0.0674060453648337
15%|███████████▊ | 1848/12000 [07:04<38:11, 4.43it/s]
train loss:0.10655443764214155
15%|███████████▊ | 1849/12000 [07:04<38:12, 4.43it/s]
train loss:0.057404992955257306
15%|███████████▊ | 1850/12000 [07:04<38:09, 4.43it/s]
train loss:0.02503403924995896
15%|███████████▉ | 1851/12000 [07:04<38:04, 4.44it/s]
train loss:0.0367708982716852
15%|███████████▉ | 1852/12000 [07:05<38:02, 4.45it/s]
train loss:0.05398392141617271
15%|███████████▉ | 1853/12000 [07:05<38:08, 4.43it/s]
train loss:0.05225901958542553
15%|███████████▉ | 1854/12000 [07:05<38:10, 4.43it/s]
train loss:0.021934319917096986
15%|███████████▉ | 1855/12000 [07:05<38:22, 4.41it/s]
train loss:0.04881165958650167
15%|███████████▉ | 1856/12000 [07:06<38:21, 4.41it/s]
train loss:0.01627509476421934
15%|███████████▉ | 1857/12000 [07:06<38:15, 4.42it/s]
train loss:0.028976251929945004
15%|███████████▉ | 1858/12000 [07:06<38:29, 4.39it/s]
train loss:0.04660911004958237
15%|███████████▉ | 1859/12000 [07:06<38:37, 4.38it/s]
train loss:0.01896017990378472
16%|███████████▉ | 1860/12000 [07:06<38:38, 4.37it/s]
train loss:0.047006091107142094
16%|███████████▉ | 1861/12000 [07:07<38:14, 4.42it/s]
train loss:0.010626424515669051
16%|███████████▉ | 1862/12000 [07:07<38:19, 4.41it/s]
train loss:0.04695666149997493
16%|███████████▉ | 1863/12000 [07:07<38:21, 4.40it/s]
train loss:0.00958480574551105
16%|███████████▉ | 1864/12000 [07:07<38:27, 4.39it/s]
train loss:0.05260388055191043
16%|███████████▉ | 1865/12000 [07:08<38:24, 4.40it/s]
train loss:0.1127346567179748
16%|███████████▉ | 1866/12000 [07:08<38:14, 4.42it/s]
train loss:0.013470299473368358
16%|███████████▉ | 1867/12000 [07:08<38:02, 4.44it/s]
train loss:0.05986991481789173
16%|███████████▉ | 1868/12000 [07:08<38:26, 4.39it/s]
train loss:0.006113904415808098
16%|███████████▉ | 1869/12000 [07:09<38:31, 4.38it/s]
train loss:0.03232501591500185
16%|███████████▉ | 1870/12000 [07:09<38:06, 4.43it/s]
train loss:0.04334915285387441
16%|████████████ | 1871/12000 [07:09<38:14, 4.41it/s]
train loss:0.023104754541217833
16%|████████████ | 1872/12000 [07:09<38:17, 4.41it/s]
train loss:0.012021878570070135
16%|████████████ | 1873/12000 [07:09<38:21, 4.40it/s]
train loss:0.022227724091848717
16%|████████████ | 1874/12000 [07:10<37:56, 4.45it/s]
train loss:0.06544789831620142
16%|████████████ | 1875/12000 [07:10<38:04, 4.43it/s]
train loss:0.03562935476422179
16%|████████████ | 1876/12000 [07:10<38:13, 4.41it/s]
train loss:0.011152343811999638
16%|████████████ | 1877/12000 [07:10<38:16, 4.41it/s]
train loss:0.013236702961582598
16%|████████████ | 1878/12000 [07:11<38:14, 4.41it/s]
train loss:0.04637445623332855
16%|████████████ | 1879/12000 [07:11<37:56, 4.45it/s]
train loss:0.025510313312420888
16%|████████████ | 1880/12000 [07:11<38:04, 4.43it/s]
train loss:0.0217111668578166
16%|████████████ | 1881/12000 [07:11<38:05, 4.43it/s]
train loss:0.03847137056146781
16%|████████████ | 1882/12000 [07:11<38:08, 4.42it/s]
train loss:0.025763394790491372
16%|████████████ | 1883/12000 [07:12<37:49, 4.46it/s]
train loss:0.012901605453804896
16%|████████████ | 1884/12000 [07:12<38:00, 4.44it/s]
train loss:0.05182156090018936
16%|████████████ | 1885/12000 [07:12<38:02, 4.43it/s]
train loss:0.021015574450982503
16%|████████████ | 1886/12000 [07:12<38:14, 4.41it/s]
train loss:0.02509410762478124
16%|████████████ | 1887/12000 [07:13<38:14, 4.41it/s]
train loss:0.027248616654971785
16%|████████████ | 1888/12000 [07:13<38:06, 4.42it/s]
train loss:0.10587744470452021
16%|████████████ | 1889/12000 [07:13<38:13, 4.41it/s]
train loss:0.015391881081620502
16%|████████████▏ | 1890/12000 [07:13<38:25, 4.39it/s]
train loss:0.016126550639744868
16%|████████████▏ | 1891/12000 [07:14<38:35, 4.36it/s]
train loss:0.010923647299940862
16%|████████████▏ | 1892/12000 [07:14<38:06, 4.42it/s]
train loss:0.07513374850247542
16%|████████████▏ | 1893/12000 [07:14<38:30, 4.37it/s]
train loss:0.012363633536109064
16%|████████████▏ | 1894/12000 [07:14<38:25, 4.38it/s]
train loss:0.01899930796237541
16%|████████████▏ | 1895/12000 [07:14<38:28, 4.38it/s]
train loss:0.027961326454436813
16%|████████████▏ | 1896/12000 [07:15<39:47, 4.23it/s]
train loss:0.017308404659804145
16%|████████████▏ | 1897/12000 [07:15<39:16, 4.29it/s]
train loss:0.034455649705678916
16%|████████████▏ | 1898/12000 [07:15<39:02, 4.31it/s]
train loss:0.01556643807130777
16%|████████████▏ | 1899/12000 [07:15<38:50, 4.33it/s]
train loss:0.059092855505876514
16%|████████████▏ | 1900/12000 [07:16<38:43, 4.35it/s]
train loss:0.023785715260588293
16%|████████████▏ | 1901/12000 [07:16<38:30, 4.37it/s]
train loss:0.02987654155252212
16%|████████████▏ | 1902/12000 [07:16<38:52, 4.33it/s]
train loss:0.0298281279826009
16%|████████████▏ | 1903/12000 [07:16<38:45, 4.34it/s]
train loss:0.04388685748611871
16%|████████████▏ | 1904/12000 [07:17<38:38, 4.35it/s]
train loss:0.020684091425243988
16%|████████████▏ | 1905/12000 [07:17<38:05, 4.42it/s]
train loss:0.030422325253341716
16%|████████████▏ | 1906/12000 [07:17<38:06, 4.41it/s]
train loss:0.032022743157844785
16%|████████████▏ | 1907/12000 [07:17<38:07, 4.41it/s]
train loss:0.020656019861545184
16%|████████████▏ | 1908/12000 [07:17<37:58, 4.43it/s]
train loss:0.017640996401694527
16%|████████████▏ | 1909/12000 [07:18<37:57, 4.43it/s]
train loss:0.039177671412334164
16%|████████████▎ | 1910/12000 [07:18<37:58, 4.43it/s]
train loss:0.013466584505158623
16%|████████████▎ | 1911/12000 [07:18<38:29, 4.37it/s]
train loss:0.22543343456183096
16%|████████████▎ | 1912/12000 [07:18<38:14, 4.40it/s]
train loss:0.030044275372756172
16%|████████████▎ | 1913/12000 [07:19<38:46, 4.34it/s]
train loss:0.014810048202648512
16%|████████████▎ | 1914/12000 [07:19<38:28, 4.37it/s]
train loss:0.05795472171566025
16%|████████████▎ | 1915/12000 [07:19<38:55, 4.32it/s]
train loss:0.0312503871829372
16%|████████████▎ | 1916/12000 [07:19<38:55, 4.32it/s]
train loss:0.05721210373976298
16%|████████████▎ | 1917/12000 [07:19<38:53, 4.32it/s]
train loss:0.012567488547822412
16%|████████████▎ | 1918/12000 [07:20<38:17, 4.39it/s]
train loss:0.03530922954326399
16%|████████████▎ | 1919/12000 [07:20<38:01, 4.42it/s]
train loss:0.027101365739425967
16%|████████████▎ | 1920/12000 [07:20<38:28, 4.37it/s]
train loss:0.02585466469710308
16%|████████████▎ | 1921/12000 [07:20<38:27, 4.37it/s]
train loss:0.020592372096143622
16%|████████████▎ | 1922/12000 [07:21<38:21, 4.38it/s]
train loss:0.011935072944162246
16%|████████████▎ | 1923/12000 [07:21<37:52, 4.43it/s]
train loss:0.023668049897448622
16%|████████████▎ | 1924/12000 [07:21<38:20, 4.38it/s]
train loss:0.05465574648163671
16%|████████████▎ | 1925/12000 [07:21<37:38, 4.46it/s]
train loss:0.013281678386654052
16%|████████████▎ | 1926/12000 [07:22<38:33, 4.35it/s]
train loss:0.04374319523764299
16%|████████████▎ | 1927/12000 [07:22<37:56, 4.43it/s]
train loss:0.09333718029808191
16%|████████████▎ | 1928/12000 [07:22<37:56, 4.42it/s]
train loss:0.02274258608114959
16%|████████████▍ | 1929/12000 [07:22<37:56, 4.42it/s]
train loss:0.01963218000090106
16%|████████████▍ | 1930/12000 [07:22<38:01, 4.41it/s]
train loss:0.05395569409774796
16%|████████████▍ | 1931/12000 [07:23<37:47, 4.44it/s]
train loss:0.02930041806978575
16%|████████████▍ | 1932/12000 [07:23<38:00, 4.42it/s]
train loss:0.06128800150063294
16%|████████████▍ | 1933/12000 [07:23<38:05, 4.40it/s]
train loss:0.033225711976526545
16%|████████████▍ | 1934/12000 [07:23<38:18, 4.38it/s]
train loss:0.014444435924981902
16%|████████████▍ | 1935/12000 [07:24<38:34, 4.35it/s]
train loss:0.014444719556284522
16%|████████████▍ | 1936/12000 [07:24<38:11, 4.39it/s]
train loss:0.08530316404828421
16%|████████████▍ | 1937/12000 [07:24<38:16, 4.38it/s]
train loss:0.01338107174978815
16%|████████████▍ | 1938/12000 [07:24<38:19, 4.38it/s]
train loss:0.01439168321466377
16%|████████████▍ | 1939/12000 [07:24<38:19, 4.37it/s]
train loss:0.04542573938811021
16%|████████████▍ | 1940/12000 [07:25<37:54, 4.42it/s]
train loss:0.011796756902729556
16%|████████████▍ | 1941/12000 [07:25<37:58, 4.41it/s]
train loss:0.050204386626597285
16%|████████████▍ | 1942/12000 [07:25<37:59, 4.41it/s]
train loss:0.01764630073999474
16%|████████████▍ | 1943/12000 [07:25<37:46, 4.44it/s]
train loss:0.016652188074811246
16%|████████████▍ | 1944/12000 [07:26<38:04, 4.40it/s]
train loss:0.061372446378747114
16%|████████████▍ | 1945/12000 [07:26<37:54, 4.42it/s]
train loss:0.028523636487108744
16%|████████████▍ | 1946/12000 [07:26<38:13, 4.38it/s]
train loss:0.02156920469577877
16%|████████████▍ | 1947/12000 [07:26<38:07, 4.39it/s]
train loss:0.00845519456657639
16%|████████████▍ | 1948/12000 [07:27<38:09, 4.39it/s]
train loss:0.05617586040693138
16%|████████████▌ | 1949/12000 [07:27<37:42, 4.44it/s]
train loss:0.016886279564365687
16%|████████████▌ | 1950/12000 [07:27<38:01, 4.41it/s]
train loss:0.02534342540804027
16%|████████████▌ | 1951/12000 [07:27<38:16, 4.38it/s]
train loss:0.015611124603914697
16%|████████████▌ | 1952/12000 [07:27<38:19, 4.37it/s]
train loss:0.004836724515848439
16%|████████████▌ | 1953/12000 [07:28<37:53, 4.42it/s]
train loss:0.0072603164809762095
16%|████████████▌ | 1954/12000 [07:28<37:41, 4.44it/s]
train loss:0.03326922484232885
16%|████████████▌ | 1955/12000 [07:28<38:04, 4.40it/s]
train loss:0.057011195714926084
16%|████████████▌ | 1956/12000 [07:28<38:06, 4.39it/s]
train loss:0.06495708597335645
16%|████████████▌ | 1957/12000 [07:29<37:55, 4.41it/s]
train loss:0.009273904906452309
16%|████████████▌ | 1958/12000 [07:29<37:59, 4.41it/s]
train loss:0.08860573423937479
16%|████████████▌ | 1959/12000 [07:29<38:14, 4.38it/s]
train loss:0.012715633034700281
16%|████████████▌ | 1960/12000 [07:29<38:11, 4.38it/s]
train loss:0.034582582631871715
16%|████████████▌ | 1961/12000 [07:29<38:05, 4.39it/s]
train loss:0.00941287484365485
16%|████████████▌ | 1962/12000 [07:30<37:39, 4.44it/s]
train loss:0.020124499638905436
16%|████████████▌ | 1963/12000 [07:30<37:48, 4.43it/s]
train loss:0.04129427320509233
16%|████████████▌ | 1964/12000 [07:30<37:51, 4.42it/s]
train loss:0.049988883852849886
16%|████████████▌ | 1965/12000 [07:30<37:59, 4.40it/s]
train loss:0.027306116317876855
16%|████████████▌ | 1966/12000 [07:31<37:49, 4.42it/s]
train loss:0.029713984133762292
16%|████████████▌ | 1967/12000 [07:31<38:02, 4.40it/s]
train loss:0.01611308989698071
16%|████████████▋ | 1968/12000 [07:31<38:07, 4.39it/s]
train loss:0.04360129087492091
16%|████████████▋ | 1969/12000 [07:31<38:15, 4.37it/s]
train loss:0.016518939489592484
16%|████████████▋ | 1970/12000 [07:32<38:23, 4.35it/s]
train loss:0.032775275076869496
16%|████████████▋ | 1971/12000 [07:32<38:29, 4.34it/s]
train loss:0.015684644916475823
16%|████████████▋ | 1972/12000 [07:32<38:27, 4.35it/s]
train loss:0.008938993418298142
16%|████████████▋ | 1973/12000 [07:32<38:42, 4.32it/s]
train loss:0.04847249035173591
16%|████████████▋ | 1974/12000 [07:32<38:24, 4.35it/s]
train loss:0.07617154613261883
16%|████████████▋ | 1975/12000 [07:33<37:55, 4.41it/s]
train loss:0.058889027995517956
16%|████████████▋ | 1976/12000 [07:33<37:52, 4.41it/s]
train loss:0.01150936939401499
16%|████████████▋ | 1977/12000 [07:33<37:48, 4.42it/s]
train loss:0.10768576373174138
16%|████████████▋ | 1978/12000 [07:33<37:56, 4.40it/s]
train loss:0.025531695357646364
16%|████████████▋ | 1979/12000 [07:34<37:57, 4.40it/s]
train loss:0.11483119621662086
16%|████████████▋ | 1980/12000 [07:34<37:44, 4.43it/s]
train loss:0.061500064694967244
17%|████████████▋ | 1981/12000 [07:34<37:46, 4.42it/s]
train loss:0.021360303879502447
17%|████████████▋ | 1982/12000 [07:34<37:44, 4.42it/s]
train loss:0.023872136109994745
17%|████████████▋ | 1983/12000 [07:34<37:43, 4.43it/s]
train loss:0.11549593052210536
17%|████████████▋ | 1984/12000 [07:35<37:21, 4.47it/s]
train loss:0.013492249322270838
17%|████████████▋ | 1985/12000 [07:35<37:23, 4.46it/s]
train loss:0.041006065914973425
17%|████████████▋ | 1986/12000 [07:35<37:47, 4.42it/s]
train loss:0.11384740657894454
17%|████████████▋ | 1987/12000 [07:35<37:44, 4.42it/s]
train loss:0.023467324786090135
17%|████████████▊ | 1988/12000 [07:36<37:40, 4.43it/s]
train loss:0.01215013377506344
17%|████████████▊ | 1989/12000 [07:36<37:33, 4.44it/s]
train loss:0.011945846088570279
17%|████████████▊ | 1990/12000 [07:36<37:36, 4.44it/s]
train loss:0.008439834192994515
17%|████████████▊ | 1991/12000 [07:36<37:36, 4.44it/s]
train loss:0.02315770934590392
17%|████████████▊ | 1992/12000 [07:36<37:29, 4.45it/s]
train loss:0.06686045413001197
17%|████████████▊ | 1993/12000 [07:37<37:24, 4.46it/s]
train loss:0.036347872204466974
17%|████████████▊ | 1994/12000 [07:37<37:30, 4.45it/s]
train loss:0.010479057138901939
17%|████████████▊ | 1995/12000 [07:37<37:32, 4.44it/s]
train loss:0.03485761893212757
17%|████████████▊ | 1996/12000 [07:37<37:47, 4.41it/s]
train loss:0.007197855563372229
17%|████████████▊ | 1997/12000 [07:38<37:36, 4.43it/s]
train loss:0.07014190748331645
17%|████████████▊ | 1998/12000 [07:38<37:28, 4.45it/s]
train loss:0.09421370930599875
17%|████████████▊ | 1999/12000 [07:38<37:30, 4.44it/s]
train loss:0.016366614768626966
17%|████████████▊ | 2000/12000 [07:38<37:31, 4.44it/s]
train loss:0.05372852825278822
17%|████████████▊ | 2001/12000 [07:39<37:37, 4.43it/s]
train loss:0.02963671798840198
17%|████████████▊ | 2002/12000 [07:39<37:14, 4.48it/s]
train loss:0.027760475352043016
17%|████████████▊ | 2003/12000 [07:39<37:21, 4.46it/s]
train loss:0.026569420951733518
17%|████████████▊ | 2004/12000 [07:39<37:27, 4.45it/s]
train loss:0.050916112553719355
17%|████████████▊ | 2005/12000 [07:39<37:30, 4.44it/s]
train loss:0.032199458052191106
17%|████████████▊ | 2006/12000 [07:40<37:13, 4.48it/s]
train loss:0.04321317952359055
17%|████████████▉ | 2007/12000 [07:40<37:11, 4.48it/s]
train loss:0.018943233605169457
17%|████████████▉ | 2008/12000 [07:40<37:21, 4.46it/s]
train loss:0.042792042781698764
17%|████████████▉ | 2009/12000 [07:40<37:28, 4.44it/s]
train loss:0.02689383945749256
17%|████████████▉ | 2010/12000 [07:41<37:33, 4.43it/s]
train loss:0.015929488013730963
17%|████████████▉ | 2011/12000 [07:41<37:27, 4.44it/s]
train loss:0.016336062885744535
17%|████████████▉ | 2012/12000 [07:41<37:37, 4.42it/s]
train loss:0.01879081420039605
17%|████████████▉ | 2013/12000 [07:41<37:39, 4.42it/s]
train loss:0.019510820218855248
17%|████████████▉ | 2014/12000 [07:41<37:45, 4.41it/s]
train loss:0.035740833208285576
17%|████████████▉ | 2015/12000 [07:42<37:29, 4.44it/s]
train loss:0.0477501077420501
17%|████████████▉ | 2016/12000 [07:42<37:33, 4.43it/s]
train loss:0.03408474669723609
17%|████████████▉ | 2017/12000 [07:42<37:43, 4.41it/s]
train loss:0.021314636395992785
17%|████████████▉ | 2018/12000 [07:42<37:42, 4.41it/s]
train loss:0.0374440150545162
17%|████████████▉ | 2019/12000 [07:43<37:36, 4.42it/s]
train loss:0.04887090928614098
17%|████████████▉ | 2020/12000 [07:43<37:35, 4.43it/s]
train loss:0.047591361917381655
17%|████████████▉ | 2021/12000 [07:43<37:35, 4.42it/s]
train loss:0.04702234258705497
17%|████████████▉ | 2022/12000 [07:43<37:31, 4.43it/s]
train loss:0.012643742131677259
17%|████████████▉ | 2023/12000 [07:43<37:41, 4.41it/s]
train loss:0.012787111765751697
17%|████████████▉ | 2024/12000 [07:44<37:32, 4.43it/s]
train loss:0.05231663198287025
17%|████████████▉ | 2025/12000 [07:44<37:28, 4.44it/s]
train loss:0.042368119550536064
17%|█████████████ | 2026/12000 [07:44<37:53, 4.39it/s]
train loss:0.01903282848975583
17%|█████████████ | 2027/12000 [07:44<37:55, 4.38it/s]
train loss:0.08440866399583331
17%|█████████████ | 2028/12000 [07:45<37:41, 4.41it/s]
train loss:0.010856544959960737
17%|█████████████ | 2029/12000 [07:45<38:30, 4.32it/s]
train loss:0.12739226752687116
17%|█████████████ | 2030/12000 [07:45<37:51, 4.39it/s]
train loss:0.09709273385421557
17%|█████████████ | 2031/12000 [07:45<38:12, 4.35it/s]
train loss:0.020764313557552108
17%|█████████████ | 2032/12000 [07:46<38:05, 4.36it/s]
train loss:0.047825760222906445
17%|█████████████ | 2033/12000 [07:46<37:38, 4.41it/s]
train loss:0.04522659783513441
17%|█████████████ | 2034/12000 [07:46<37:37, 4.41it/s]
train loss:0.0913068675199598
17%|█████████████ | 2035/12000 [07:46<37:41, 4.41it/s]
train loss:0.022382272266203363
17%|█████████████ | 2036/12000 [07:46<37:44, 4.40it/s]
train loss:0.06920081105057893
17%|█████████████ | 2037/12000 [07:47<37:26, 4.44it/s]
train loss:0.05315821763049098
17%|█████████████ | 2038/12000 [07:47<37:28, 4.43it/s]
train loss:0.03823075241316648
17%|█████████████ | 2039/12000 [07:47<37:44, 4.40it/s]
train loss:0.03238915491042494
17%|█████████████ | 2040/12000 [07:47<37:47, 4.39it/s]
train loss:0.017677682519217502
17%|█████████████ | 2041/12000 [07:48<37:53, 4.38it/s]
train loss:0.023899540239531402
17%|█████████████ | 2042/12000 [07:48<37:43, 4.40it/s]
train loss:0.056723485646545876
17%|█████████████ | 2043/12000 [07:48<37:38, 4.41it/s]
train loss:0.04859734030510049
17%|█████████████ | 2044/12000 [07:48<38:17, 4.33it/s]
train loss:0.04374667864712555
17%|█████████████ | 2045/12000 [07:49<38:17, 4.33it/s]
train loss:0.03188986703578143
17%|█████████████▏ | 2046/12000 [07:49<37:39, 4.41it/s]
train loss:0.016270588779681964
17%|█████████████▏ | 2047/12000 [07:49<37:36, 4.41it/s]
train loss:0.13018156328563446
17%|█████████████▏ | 2048/12000 [07:49<37:52, 4.38it/s]
train loss:0.020798344042365705
17%|█████████████▏ | 2049/12000 [07:49<37:45, 4.39it/s]
train loss:0.01072740604512117
17%|█████████████▏ | 2050/12000 [07:50<37:35, 4.41it/s]
train loss:0.006137131823230161
17%|█████████████▏ | 2051/12000 [07:50<37:25, 4.43it/s]
train loss:0.06551465541425379
17%|█████████████▏ | 2052/12000 [07:50<37:36, 4.41it/s]
train loss:0.04826542761296855
17%|█████████████▏ | 2053/12000 [07:50<37:46, 4.39it/s]
train loss:0.06909757026930763
17%|█████████████▏ | 2054/12000 [07:51<37:59, 4.36it/s]
train loss:0.029895781848010908
17%|█████████████▏ | 2055/12000 [07:51<37:28, 4.42it/s]
train loss:0.0644931670991273
17%|█████████████▏ | 2056/12000 [07:51<37:26, 4.43it/s]
train loss:0.01644243430920821
17%|█████████████▏ | 2057/12000 [07:51<37:25, 4.43it/s]
train loss:0.015347513540613717
17%|█████████████▏ | 2058/12000 [07:51<37:28, 4.42it/s]
train loss:0.012314576499870437
17%|█████████████▏ | 2059/12000 [07:52<37:12, 4.45it/s]
train loss:0.018681553384985273
17%|█████████████▏ | 2060/12000 [07:52<37:12, 4.45it/s]
train loss:0.07396693274444734
17%|█████████████▏ | 2061/12000 [07:52<37:17, 4.44it/s]
train loss:0.0337389948239988
17%|█████████████▏ | 2062/12000 [07:52<37:21, 4.43it/s]
train loss:0.013950795132585231
17%|█████████████▏ | 2063/12000 [07:53<37:16, 4.44it/s]
train loss:0.0431948463360032
17%|█████████████▏ | 2064/12000 [07:53<36:54, 4.49it/s]
train loss:0.023058998392468194
17%|█████████████▎ | 2065/12000 [07:53<37:02, 4.47it/s]
train loss:0.03179474886600805
17%|█████████████▎ | 2066/12000 [07:53<37:04, 4.46it/s]
train loss:0.07609357350708869
17%|█████████████▎ | 2068/12000 [07:54<36:29, 4.54it/s]
train loss:0.009770543085543431 train loss:0.03634814216788812
17%|█████████████▎ | 2069/12000 [07:54<36:35, 4.52it/s]
train loss:0.025124204682548126
17%|█████████████▎ | 2070/12000 [07:54<37:15, 4.44it/s]
train loss:0.04578770513592936
17%|█████████████▎ | 2071/12000 [07:54<37:02, 4.47it/s]
train loss:0.009439030642427541
17%|█████████████▎ | 2072/12000 [07:55<37:16, 4.44it/s]
train loss:0.019901136276747146
17%|█████████████▎ | 2073/12000 [07:55<37:25, 4.42it/s]
train loss:0.09019227904196297
17%|█████████████▎ | 2074/12000 [07:55<37:22, 4.43it/s]
train loss:0.06851044109255129
17%|█████████████▎ | 2075/12000 [07:55<37:37, 4.40it/s]
train loss:0.013408279442319766
17%|█████████████▎ | 2076/12000 [07:55<37:48, 4.37it/s]
train loss:0.06088830371107816
17%|█████████████▎ | 2077/12000 [07:56<37:16, 4.44it/s]
train loss:0.016429938457806163
17%|█████████████▎ | 2078/12000 [07:56<37:18, 4.43it/s]
train loss:0.02014018197695109
17%|█████████████▎ | 2079/12000 [07:56<37:21, 4.43it/s]
train loss:0.03049312734384007
17%|█████████████▎ | 2080/12000 [07:56<37:24, 4.42it/s]
train loss:0.03665180686864426
17%|█████████████▎ | 2081/12000 [07:57<37:11, 4.44it/s]
train loss:0.07022328001301335
17%|█████████████▎ | 2082/12000 [07:57<37:07, 4.45it/s]
train loss:0.05121520909358936
17%|█████████████▎ | 2083/12000 [07:57<37:12, 4.44it/s]
train loss:0.005357966038316309
17%|█████████████▎ | 2084/12000 [07:57<37:19, 4.43it/s]
train loss:0.023306894102083208
17%|█████████████▍ | 2085/12000 [07:58<37:28, 4.41it/s]
train loss:0.01967003008711153
17%|█████████████▍ | 2086/12000 [07:58<37:14, 4.44it/s]
train loss:0.010696628814639538
17%|█████████████▍ | 2087/12000 [07:58<37:21, 4.42it/s]
train loss:0.045382742794793894
17%|█████████████▍ | 2088/12000 [07:58<37:28, 4.41it/s]
train loss:0.1182893493138955
17%|█████████████▍ | 2089/12000 [07:58<37:42, 4.38it/s]
train loss:0.017997085690023368
17%|█████████████▍ | 2090/12000 [07:59<37:16, 4.43it/s]
train loss:0.0075164846423856745
17%|█████████████▍ | 2091/12000 [07:59<37:19, 4.42it/s]
train loss:0.04344695201789441
17%|█████████████▍ | 2092/12000 [07:59<37:21, 4.42it/s]
train loss:0.03318801730406689
17%|█████████████▍ | 2093/12000 [07:59<37:22, 4.42it/s]
train loss:0.024791612060250618
17%|█████████████▍ | 2094/12000 [08:00<37:25, 4.41it/s]
train loss:0.023170507204005486
17%|█████████████▍ | 2095/12000 [08:00<37:07, 4.45it/s]
train loss:0.0065780819096274016
17%|█████████████▍ | 2096/12000 [08:00<37:15, 4.43it/s]
train loss:0.09354817402132885
17%|█████████████▍ | 2097/12000 [08:00<37:21, 4.42it/s]
train loss:0.017334195703272593
17%|█████████████▍ | 2098/12000 [08:00<37:22, 4.42it/s]
train loss:0.0818358217825276
17%|█████████████▍ | 2099/12000 [08:01<36:56, 4.47it/s]
train loss:0.02711483440379601
18%|█████████████▍ | 2100/12000 [08:01<37:10, 4.44it/s]
train loss:0.041304942384273596
18%|█████████████▍ | 2101/12000 [08:01<37:11, 4.44it/s]
train loss:0.04338114741008532
18%|█████████████▍ | 2102/12000 [08:01<37:25, 4.41it/s]
train loss:0.01709186905559573
18%|█████████████▍ | 2103/12000 [08:02<37:30, 4.40it/s]
train loss:0.06166021101745926
18%|█████████████▌ | 2104/12000 [08:02<37:21, 4.41it/s]
train loss:0.018807148617205918
18%|█████████████▌ | 2105/12000 [08:02<37:22, 4.41it/s]
train loss:0.018858521419459907
18%|█████████████▌ | 2106/12000 [08:02<37:23, 4.41it/s]
train loss:0.009897996077808169
18%|█████████████▌ | 2107/12000 [08:03<37:44, 4.37it/s]
train loss:0.018862788777397273
18%|█████████████▌ | 2108/12000 [08:03<37:15, 4.42it/s]
train loss:0.09910712939383867
18%|█████████████▌ | 2109/12000 [08:03<37:17, 4.42it/s]
train loss:0.03300956614042597
18%|█████████████▌ | 2110/12000 [08:03<37:21, 4.41it/s]
train loss:0.08521725704861492
18%|█████████████▌ | 2111/12000 [08:03<37:27, 4.40it/s]
train loss:0.03315109839268633
18%|█████████████▌ | 2112/12000 [08:04<37:16, 4.42it/s]
train loss:0.013845413727720088
18%|█████████████▌ | 2113/12000 [08:04<37:21, 4.41it/s]
train loss:0.011956826523215327
18%|█████████████▌ | 2114/12000 [08:04<37:28, 4.40it/s]
train loss:0.05860642714119766
18%|█████████████▌ | 2115/12000 [08:04<37:37, 4.38it/s]
train loss:0.019652603469571407
18%|█████████████▌ | 2116/12000 [08:05<37:34, 4.38it/s]
train loss:0.009180085839470544
18%|█████████████▌ | 2117/12000 [08:05<37:34, 4.38it/s]
train loss:0.09662817583490835
18%|█████████████▌ | 2118/12000 [08:05<37:32, 4.39it/s]
train loss:0.02954332108837634
18%|█████████████▌ | 2119/12000 [08:05<37:29, 4.39it/s]
train loss:0.042175864917464854
18%|█████████████▌ | 2120/12000 [08:05<37:28, 4.39it/s]
train loss:0.09112495300027344
18%|█████████████▌ | 2121/12000 [08:06<37:27, 4.40it/s]
train loss:0.024507962132636067
18%|█████████████▌ | 2122/12000 [08:06<37:23, 4.40it/s]
train loss:0.023376375966446178
18%|█████████████▌ | 2123/12000 [08:06<37:28, 4.39it/s]
train loss:0.09855518879036634
18%|█████████████▋ | 2124/12000 [08:06<37:33, 4.38it/s]
train loss:0.05797399047766857
18%|█████████████▋ | 2125/12000 [08:07<37:27, 4.39it/s]
train loss:0.04484081793747596
18%|█████████████▋ | 2126/12000 [08:07<37:17, 4.41it/s]
train loss:0.027973574834943327
18%|█████████████▋ | 2127/12000 [08:07<37:37, 4.37it/s]
train loss:0.008005022006061074
18%|█████████████▋ | 2128/12000 [08:07<37:46, 4.36it/s]
train loss:0.011682844771602885
18%|█████████████▋ | 2129/12000 [08:08<37:45, 4.36it/s]
train loss:0.011267460962745352
18%|█████████████▋ | 2130/12000 [08:08<37:13, 4.42it/s]
train loss:0.06722203725431189
18%|█████████████▋ | 2131/12000 [08:08<38:14, 4.30it/s]
train loss:0.021227194352066246
18%|█████████████▋ | 2132/12000 [08:08<38:37, 4.26it/s]
train loss:0.021856499804457828
18%|█████████████▋ | 2133/12000 [08:08<38:37, 4.26it/s]
train loss:0.037287077913275075
18%|█████████████▋ | 2134/12000 [08:09<38:25, 4.28it/s]
train loss:0.08752580541348864
18%|█████████████▋ | 2135/12000 [08:09<39:27, 4.17it/s]
train loss:0.00964565808842114
18%|█████████████▋ | 2136/12000 [08:09<38:47, 4.24it/s]
train loss:0.0323005462192852
18%|█████████████▋ | 2137/12000 [08:09<38:23, 4.28it/s]
train loss:0.01839527591901351
18%|█████████████▋ | 2138/12000 [08:10<37:46, 4.35it/s]
train loss:0.0322408711924736
18%|█████████████▋ | 2139/12000 [08:10<37:28, 4.38it/s]
train loss:0.06843063928209675
18%|█████████████▋ | 2140/12000 [08:10<37:24, 4.39it/s]
train loss:0.027968616376961703
18%|█████████████▋ | 2141/12000 [08:10<37:23, 4.40it/s]
train loss:0.03045324899689428
18%|█████████████▋ | 2142/12000 [08:11<37:21, 4.40it/s]
train loss:0.023276304674418685
18%|█████████████▊ | 2143/12000 [08:11<37:02, 4.44it/s]
train loss:0.014278439992278983
18%|█████████████▊ | 2144/12000 [08:11<36:56, 4.45it/s]
train loss:0.022483356618284413
18%|█████████████▊ | 2145/12000 [08:11<37:13, 4.41it/s]
train loss:0.09590415420240207
18%|█████████████▊ | 2146/12000 [08:11<37:15, 4.41it/s]
train loss:0.02479056698859277
18%|█████████████▊ | 2147/12000 [08:12<36:52, 4.45it/s]
train loss:0.036753772648617525
18%|█████████████▊ | 2148/12000 [08:12<36:59, 4.44it/s]
train loss:0.0537144289888545
18%|█████████████▊ | 2149/12000 [08:12<37:02, 4.43it/s]
train loss:0.017483192682762532
18%|█████████████▊ | 2150/12000 [08:12<37:05, 4.42it/s]
train loss:0.0168728670631749
18%|█████████████▊ | 2151/12000 [08:13<37:20, 4.40it/s]
train loss:0.00610219968931715
18%|█████████████▊ | 2152/12000 [08:13<37:05, 4.42it/s]
train loss:0.050542915197247976
18%|█████████████▊ | 2153/12000 [08:13<37:22, 4.39it/s]
train loss:0.032588155076276965
18%|█████████████▊ | 2154/12000 [08:13<37:48, 4.34it/s]
train loss:0.011901240477457064
18%|█████████████▊ | 2155/12000 [08:13<37:46, 4.34it/s]
train loss:0.01714508790494875
18%|█████████████▊ | 2156/12000 [08:14<37:34, 4.37it/s]
train loss:0.05479446218195631
18%|█████████████▊ | 2157/12000 [08:14<37:58, 4.32it/s]
train loss:0.007364780196480669
18%|█████████████▊ | 2158/12000 [08:14<37:53, 4.33it/s]
train loss:0.029316086217287388
18%|█████████████▊ | 2159/12000 [08:14<37:52, 4.33it/s]
train loss:0.01795511101327662
18%|█████████████▊ | 2160/12000 [08:15<37:38, 4.36it/s]
train loss:0.07924417313513482
18%|█████████████▊ | 2161/12000 [08:15<37:18, 4.39it/s]
train loss:0.026837390605883617
18%|█████████████▊ | 2162/12000 [08:15<37:16, 4.40it/s]
train loss:0.06488148412505329
18%|█████████████▉ | 2163/12000 [08:15<37:19, 4.39it/s]
train loss:0.053095354589391255
18%|█████████████▉ | 2164/12000 [08:16<37:18, 4.39it/s]
train loss:0.09973185835472415
18%|█████████████▉ | 2165/12000 [08:16<37:15, 4.40it/s]
train loss:0.010443539782929598
18%|█████████████▉ | 2166/12000 [08:16<37:17, 4.40it/s]
train loss:0.09398249579407145
18%|█████████████▉ | 2167/12000 [08:16<37:18, 4.39it/s]
train loss:0.04503467292277875
18%|█████████████▉ | 2168/12000 [08:16<37:15, 4.40it/s]
train loss:0.012424026046767185
18%|█████████████▉ | 2169/12000 [08:17<37:09, 4.41it/s]
train loss:0.012124106177121029
18%|█████████████▉ | 2170/12000 [08:17<37:10, 4.41it/s]
train loss:0.06588720341321022
18%|█████████████▉ | 2171/12000 [08:17<37:07, 4.41it/s]
train loss:0.03117517290992639
18%|█████████████▉ | 2172/12000 [08:17<37:06, 4.41it/s]
train loss:0.06466501809156015
18%|█████████████▉ | 2173/12000 [08:18<37:03, 4.42it/s]
train loss:0.03754299299271715
18%|█████████████▉ | 2174/12000 [08:18<36:45, 4.46it/s]
train loss:0.01959566830363811
18%|█████████████▉ | 2175/12000 [08:18<36:49, 4.45it/s]
train loss:0.019896323193043818
18%|█████████████▉ | 2176/12000 [08:18<36:58, 4.43it/s]
train loss:0.05740915611450327
18%|█████████████▉ | 2177/12000 [08:18<37:01, 4.42it/s]
train loss:0.06843389418181661
18%|█████████████▉ | 2178/12000 [08:19<36:48, 4.45it/s]
train loss:0.037491933057166305
18%|█████████████▉ | 2179/12000 [08:19<36:39, 4.47it/s]
train loss:0.07802366624387976
18%|█████████████▉ | 2180/12000 [08:19<37:04, 4.42it/s]
train loss:0.0638196966434669
18%|█████████████▉ | 2181/12000 [08:19<39:42, 4.12it/s]
train loss:0.10842650530126383
18%|██████████████ | 2182/12000 [08:20<40:54, 4.00it/s]
train loss:0.05834052246650692
18%|██████████████ | 2183/12000 [08:20<43:02, 3.80it/s]
train loss:0.028850533724164434
18%|██████████████ | 2184/12000 [08:20<43:20, 3.77it/s]
train loss:0.02118817665145735
18%|██████████████ | 2185/12000 [08:20<41:56, 3.90it/s]
train loss:0.011534808000922034
18%|██████████████ | 2186/12000 [08:21<40:05, 4.08it/s]
train loss:0.021998972938893795
18%|██████████████ | 2187/12000 [08:21<39:11, 4.17it/s]
train loss:0.021428532032059012
18%|██████████████ | 2188/12000 [08:21<38:37, 4.23it/s]
train loss:0.023299746112938724
18%|██████████████ | 2189/12000 [08:21<38:08, 4.29it/s]
train loss:0.020842494786316734
18%|██████████████ | 2190/12000 [08:22<37:45, 4.33it/s]
train loss:0.11526855061187657
18%|██████████████ | 2191/12000 [08:22<37:23, 4.37it/s]
train loss:0.013234508292260121
18%|██████████████ | 2192/12000 [08:22<37:18, 4.38it/s]
train loss:0.20351375786258746
18%|██████████████ | 2193/12000 [08:22<37:13, 4.39it/s]
train loss:0.01440576881953237
18%|██████████████ | 2194/12000 [08:23<37:14, 4.39it/s]
train loss:0.033431808220212834
18%|██████████████ | 2195/12000 [08:23<37:27, 4.36it/s]
train loss:0.029977458959741913
18%|██████████████ | 2196/12000 [08:23<37:16, 4.38it/s]
train loss:0.01821522641268814
18%|██████████████ | 2197/12000 [08:23<37:20, 4.38it/s]
train loss:0.018667697594782408
18%|██████████████ | 2198/12000 [08:23<37:12, 4.39it/s]
train loss:0.020347826717933712
18%|██████████████ | 2199/12000 [08:24<36:55, 4.42it/s]
train loss:0.090687700953838
18%|██████████████ | 2200/12000 [08:24<37:05, 4.40it/s]
train loss:0.06295637775152874
18%|██████████████ | 2201/12000 [08:24<37:06, 4.40it/s]
train loss:0.01117560685554345
18%|██████████████▏ | 2202/12000 [08:24<37:01, 4.41it/s]
train loss:0.04228359047677862
18%|██████████████▏ | 2203/12000 [08:25<37:07, 4.40it/s]
train loss:0.023794344160555307
18%|██████████████▏ | 2204/12000 [08:25<36:48, 4.44it/s]
train loss:0.030220528093787235
18%|██████████████▏ | 2205/12000 [08:25<36:58, 4.42it/s]
train loss:0.013224736321076472
18%|██████████████▏ | 2206/12000 [08:25<36:58, 4.41it/s]
train loss:0.07069430334981996
18%|██████████████▏ | 2207/12000 [08:25<37:09, 4.39it/s]
train loss:0.016925273837522892
18%|██████████████▏ | 2208/12000 [08:26<36:48, 4.43it/s]
train loss:0.06220513296025212
18%|██████████████▏ | 2209/12000 [08:26<36:52, 4.43it/s]
train loss:0.022035008926773833
18%|██████████████▏ | 2210/12000 [08:26<36:50, 4.43it/s]
train loss:0.01954995606477045
18%|██████████████▏ | 2211/12000 [08:26<38:24, 4.25it/s]
train loss:0.08061230110225855
18%|██████████████▏ | 2212/12000 [08:27<38:37, 4.22it/s]
train loss:0.01640799512645571
18%|██████████████▏ | 2213/12000 [08:27<38:07, 4.28it/s]
train loss:0.18546779518694073
18%|██████████████▏ | 2214/12000 [08:27<37:46, 4.32it/s]
train loss:0.030840204416873587
18%|██████████████▏ | 2215/12000 [08:27<37:33, 4.34it/s]
train loss:0.011968864345422048
18%|██████████████▏ | 2216/12000 [08:28<37:30, 4.35it/s]
train loss:0.013471806121536407
18%|██████████████▏ | 2217/12000 [08:28<36:55, 4.42it/s]
train loss:0.261253097321027
18%|██████████████▏ | 2218/12000 [08:28<36:52, 4.42it/s]
train loss:0.011762299140602436
18%|██████████████▏ | 2219/12000 [08:28<37:11, 4.38it/s]
train loss:0.01622516568370618
18%|██████████████▏ | 2220/12000 [08:28<37:06, 4.39it/s]
train loss:0.016091626101293176
19%|██████████████▎ | 2221/12000 [08:29<38:08, 4.27it/s]
train loss:0.0902833781022549
19%|██████████████▎ | 2222/12000 [08:29<37:43, 4.32it/s]
train loss:0.014849660118551027
19%|██████████████▎ | 2223/12000 [08:29<37:28, 4.35it/s]
train loss:0.036169867234256074
19%|██████████████▎ | 2224/12000 [08:29<37:22, 4.36it/s]
train loss:0.03416133870019301
19%|██████████████▎ | 2225/12000 [08:30<37:43, 4.32it/s]
train loss:0.03075711458202582
19%|██████████████▎ | 2226/12000 [08:30<37:42, 4.32it/s]
train loss:0.04348006627712798
19%|██████████████▎ | 2227/12000 [08:30<37:34, 4.33it/s]
train loss:0.023728465207982746
19%|██████████████▎ | 2228/12000 [08:30<37:23, 4.36it/s]
train loss:0.03623494997754328
19%|██████████████▎ | 2229/12000 [08:31<37:16, 4.37it/s]
train loss:0.03725415672775501
19%|██████████████▎ | 2230/12000 [08:31<36:58, 4.40it/s]
train loss:0.020296680272282718
19%|██████████████▎ | 2231/12000 [08:31<37:08, 4.38it/s]
train loss:0.03877633083861866
19%|██████████████▎ | 2232/12000 [08:31<37:04, 4.39it/s]
train loss:0.015613845893601899
19%|██████████████▎ | 2233/12000 [08:31<37:02, 4.40it/s]
train loss:0.017195253185302187
19%|██████████████▎ | 2234/12000 [08:32<36:36, 4.45it/s]
train loss:0.01787701691427017
19%|██████████████▎ | 2235/12000 [08:32<36:45, 4.43it/s]
train loss:0.019813054918633694
19%|██████████████▎ | 2236/12000 [08:32<36:55, 4.41it/s]
train loss:0.022605086444171495
19%|██████████████▎ | 2237/12000 [08:32<36:56, 4.40it/s]
train loss:0.02312381665503068
19%|██████████████▎ | 2238/12000 [08:33<36:51, 4.41it/s]
train loss:0.0066310870226698945
19%|██████████████▎ | 2239/12000 [08:33<36:25, 4.47it/s]
train loss:0.06234745004050682
19%|██████████████▎ | 2240/12000 [08:33<36:34, 4.45it/s]
train loss:0.017475782022635653
19%|██████████████▍ | 2241/12000 [08:33<36:40, 4.44it/s]
train loss:0.05524957476809387
19%|██████████████▍ | 2242/12000 [08:33<36:42, 4.43it/s]
train loss:0.04490270204314416
19%|██████████████▍ | 2243/12000 [08:34<36:17, 4.48it/s]
train loss:0.02318541483943843
19%|██████████████▍ | 2244/12000 [08:34<36:45, 4.42it/s]
train loss:0.02952684063797634
19%|██████████████▍ | 2245/12000 [08:34<36:51, 4.41it/s]
train loss:0.023891606582887616
19%|██████████████▍ | 2246/12000 [08:34<36:51, 4.41it/s]
train loss:0.04067375998887286
19%|██████████████▍ | 2247/12000 [08:35<36:52, 4.41it/s]
train loss:0.0369159079820806
19%|██████████████▍ | 2248/12000 [08:35<36:42, 4.43it/s]
train loss:0.049840202386827855
19%|██████████████▍ | 2249/12000 [08:35<36:52, 4.41it/s]
train loss:0.03228808787867968
19%|██████████████▍ | 2250/12000 [08:35<36:51, 4.41it/s]
train loss:0.059956550195562716
19%|██████████████▍ | 2251/12000 [08:36<36:59, 4.39it/s]
train loss:0.027494618423441152
19%|██████████████▍ | 2252/12000 [08:36<36:36, 4.44it/s]
train loss:0.016160801443354755
19%|██████████████▍ | 2253/12000 [08:36<36:35, 4.44it/s]
train loss:0.037980582589529716
19%|██████████████▍ | 2254/12000 [08:36<36:54, 4.40it/s]
train loss:0.02589944913699018
19%|██████████████▍ | 2255/12000 [08:36<37:00, 4.39it/s]
train loss:0.007942631823103449
19%|██████████████▍ | 2256/12000 [08:37<36:27, 4.45it/s]
train loss:0.06887804274861908
19%|██████████████▍ | 2257/12000 [08:37<36:27, 4.45it/s]
train loss:0.08378349886533762
19%|██████████████▍ | 2258/12000 [08:37<36:54, 4.40it/s]
train loss:0.05062492315805687
19%|██████████████▍ | 2259/12000 [08:37<36:59, 4.39it/s]
train loss:0.024912172452659722
19%|██████████████▌ | 2260/12000 [08:38<37:07, 4.37it/s]
train loss:0.009246378446611681
19%|██████████████▌ | 2261/12000 [08:38<36:43, 4.42it/s]
train loss:0.03852712700961649
19%|██████████████▌ | 2262/12000 [08:38<36:50, 4.41it/s]
train loss:0.03372383139062408
19%|██████████████▌ | 2263/12000 [08:38<36:50, 4.40it/s]
train loss:0.04229650217784508
19%|██████████████▌ | 2264/12000 [08:38<37:07, 4.37it/s]
train loss:0.020215375387486377
19%|██████████████▌ | 2265/12000 [08:39<36:52, 4.40it/s]
train loss:0.04497998408020017
19%|██████████████▌ | 2266/12000 [08:39<36:48, 4.41it/s]
train loss:0.029737242761510213
19%|██████████████▌ | 2267/12000 [08:39<36:49, 4.41it/s]
train loss:0.0853266083565804
19%|██████████████▌ | 2268/12000 [08:39<36:46, 4.41it/s]
train loss:0.058688292931113904
19%|██████████████▌ | 2269/12000 [08:40<36:40, 4.42it/s]
train loss:0.004319418448152186
19%|██████████████▌ | 2270/12000 [08:40<36:34, 4.43it/s]
train loss:0.00979595922387075
19%|██████████████▌ | 2271/12000 [08:40<36:43, 4.41it/s]
train loss:0.04468736015146784
19%|██████████████▌ | 2272/12000 [08:40<36:42, 4.42it/s]
train loss:0.05430171818781604
19%|██████████████▌ | 2273/12000 [08:41<36:53, 4.39it/s]
train loss:0.062429549872987884
19%|██████████████▌ | 2274/12000 [08:41<36:24, 4.45it/s]
train loss:0.07302860323373478
19%|██████████████▌ | 2275/12000 [08:41<36:33, 4.43it/s]
train loss:0.006567083434941117
19%|██████████████▌ | 2276/12000 [08:41<36:35, 4.43it/s]
train loss:0.04278346151659946
19%|██████████████▌ | 2277/12000 [08:41<36:38, 4.42it/s]
train loss:0.014640235108451796
19%|██████████████▌ | 2278/12000 [08:42<36:30, 4.44it/s]
train loss:0.03428234593525244
19%|██████████████▌ | 2279/12000 [08:42<36:24, 4.45it/s]
train loss:0.019004550229354152
19%|██████████████▋ | 2280/12000 [08:42<36:30, 4.44it/s]
train loss:0.03112279852352828
19%|██████████████▋ | 2281/12000 [08:42<36:38, 4.42it/s]
train loss:0.05287348525952533
19%|██████████████▋ | 2282/12000 [08:43<36:38, 4.42it/s]
train loss:0.007157665705979456
19%|██████████████▋ | 2283/12000 [08:43<36:19, 4.46it/s]
train loss:0.03634922594846518
19%|██████████████▋ | 2284/12000 [08:43<36:26, 4.44it/s]
train loss:0.011228096913646436
19%|██████████████▋ | 2285/12000 [08:43<36:31, 4.43it/s]
train loss:0.0682066498411093
19%|██████████████▋ | 2286/12000 [08:43<36:32, 4.43it/s]
train loss:0.03023470378979708
19%|██████████████▋ | 2287/12000 [08:44<36:10, 4.48it/s]
train loss:0.04088111646983433
19%|██████████████▋ | 2288/12000 [08:44<36:18, 4.46it/s]
train loss:0.01688015130907657
19%|██████████████▋ | 2289/12000 [08:44<36:25, 4.44it/s]
train loss:0.028617923502682073
19%|██████████████▋ | 2290/12000 [08:44<36:30, 4.43it/s]
train loss:0.009320176709967425
19%|██████████████▋ | 2291/12000 [08:45<36:38, 4.42it/s]
train loss:0.07709059198831068
19%|██████████████▋ | 2292/12000 [08:45<36:25, 4.44it/s]
train loss:0.020565888720087022
19%|██████████████▋ | 2293/12000 [08:45<36:28, 4.43it/s]
train loss:0.024980086873725185
19%|██████████████▋ | 2294/12000 [08:45<36:31, 4.43it/s]
train loss:0.020477601741089164
19%|██████████████▋ | 2295/12000 [08:45<36:32, 4.43it/s]
train loss:0.06680694863355117
19%|██████████████▋ | 2296/12000 [08:46<36:11, 4.47it/s]
train loss:0.04021938580873364
19%|██████████████▋ | 2297/12000 [08:46<36:19, 4.45it/s]
train loss:0.02682571781115378
19%|██████████████▋ | 2298/12000 [08:46<36:24, 4.44it/s]
train loss:0.03144873369696908
19%|██████████████▊ | 2299/12000 [08:46<36:30, 4.43it/s]
train loss:0.023131106175756266
19%|██████████████▊ | 2300/12000 [08:47<36:38, 4.41it/s]
train loss:0.03386360678089576
19%|██████████████▊ | 2301/12000 [08:47<36:25, 4.44it/s]
train loss:0.03895304406235022
19%|██████████████▊ | 2302/12000 [08:47<36:28, 4.43it/s]
train loss:0.026758284853462225
19%|██████████████▊ | 2303/12000 [08:47<36:39, 4.41it/s]
train loss:0.024665315858069206
19%|██████████████▊ | 2304/12000 [08:47<36:58, 4.37it/s]
train loss:0.010356994551448133
19%|██████████████▊ | 2305/12000 [08:48<36:26, 4.43it/s]
train loss:0.021873373405412126
19%|██████████████▊ | 2306/12000 [08:48<36:30, 4.42it/s]
train loss:0.02962814007657861
19%|██████████████▊ | 2307/12000 [08:48<36:32, 4.42it/s]
train loss:0.014511181281679875
19%|██████████████▊ | 2308/12000 [08:48<36:35, 4.42it/s]
train loss:0.00920970415894869
19%|██████████████▊ | 2309/12000 [08:49<36:21, 4.44it/s]
train loss:0.025221015429935996
19%|██████████████▊ | 2310/12000 [08:49<36:17, 4.45it/s]
train loss:0.10547456274476862
19%|██████████████▊ | 2311/12000 [08:49<36:24, 4.43it/s]
train loss:0.04342350956735869
19%|██████████████▊ | 2312/12000 [08:49<36:50, 4.38it/s]
train loss:0.12709146008632705
19%|██████████████▊ | 2313/12000 [08:50<37:28, 4.31it/s]
train loss:0.004632734777619929
19%|██████████████▊ | 2314/12000 [08:50<37:04, 4.35it/s]
train loss:0.03404519081749289
19%|██████████████▊ | 2315/12000 [08:50<36:54, 4.37it/s]
train loss:0.0323257643274887
19%|██████████████▊ | 2316/12000 [08:50<36:47, 4.39it/s]
train loss:0.011762013153078557
19%|██████████████▊ | 2317/12000 [08:50<36:40, 4.40it/s]
train loss:0.049448550037049184
19%|██████████████▊ | 2318/12000 [08:51<36:19, 4.44it/s]
train loss:0.08590640992005229
19%|██████████████▉ | 2319/12000 [08:51<36:27, 4.43it/s]
train loss:0.0385010766101323
19%|██████████████▉ | 2320/12000 [08:51<36:41, 4.40it/s]
train loss:0.038682923172964456
19%|██████████████▉ | 2321/12000 [08:51<36:56, 4.37it/s]
train loss:0.03017890566355206
19%|██████████████▉ | 2322/12000 [08:52<37:00, 4.36it/s]
train loss:0.015180425885996664
19%|██████████████▉ | 2323/12000 [08:52<37:02, 4.35it/s]
train loss:0.02836583341386832
19%|██████████████▉ | 2324/12000 [08:52<36:54, 4.37it/s]
train loss:0.0421941951628195
19%|██████████████▉ | 2325/12000 [08:52<37:11, 4.33it/s]
train loss:0.055666456752424015
19%|██████████████▉ | 2326/12000 [08:53<37:28, 4.30it/s]
train loss:0.02242414986135071
19%|██████████████▉ | 2327/12000 [08:53<37:21, 4.32it/s]
train loss:0.011097529419721738
19%|██████████████▉ | 2328/12000 [08:53<37:08, 4.34it/s]
train loss:0.07113829148981834
19%|██████████████▉ | 2329/12000 [08:53<37:07, 4.34it/s]
train loss:0.023389381502591663
19%|██████████████▉ | 2330/12000 [08:53<37:07, 4.34it/s]
train loss:0.009386655877637618
19%|██████████████▉ | 2331/12000 [08:54<36:34, 4.41it/s]
train loss:0.01116465101900889
19%|██████████████▉ | 2332/12000 [08:54<36:45, 4.38it/s]
train loss:0.06220787830471905
19%|██████████████▉ | 2333/12000 [08:54<36:41, 4.39it/s]
train loss:0.06555968002238145
19%|██████████████▉ | 2334/12000 [08:54<36:37, 4.40it/s]
train loss:0.0454502928922295
19%|██████████████▉ | 2335/12000 [08:55<36:33, 4.41it/s]
train loss:0.0645199242793052
19%|██████████████▉ | 2336/12000 [08:55<36:27, 4.42it/s]
train loss:0.015781303764588018
19%|██████████████▉ | 2337/12000 [08:55<36:47, 4.38it/s]
train loss:0.028635804021832977
19%|███████████████ | 2338/12000 [08:55<36:27, 4.42it/s]
train loss:0.07703469407796341
19%|███████████████ | 2339/12000 [08:55<36:47, 4.38it/s]
train loss:0.006277796011772344
20%|███████████████ | 2340/12000 [08:56<36:24, 4.42it/s]
train loss:0.02451691172454797
20%|███████████████ | 2341/12000 [08:56<37:50, 4.25it/s]
train loss:0.015628003118845147
20%|███████████████ | 2342/12000 [08:56<37:41, 4.27it/s]
train loss:0.001835914531034764
20%|███████████████ | 2343/12000 [08:56<37:26, 4.30it/s]
train loss:0.01845304872885865
20%|███████████████ | 2344/12000 [08:57<36:50, 4.37it/s]
train loss:0.04213326495291961
20%|███████████████ | 2345/12000 [08:57<36:39, 4.39it/s]
train loss:0.013671272304728099
20%|███████████████ | 2346/12000 [08:57<37:07, 4.33it/s]
train loss:0.003877697422534431
20%|███████████████ | 2347/12000 [08:57<36:59, 4.35it/s]
train loss:0.049124095398811934
20%|███████████████ | 2348/12000 [08:58<36:59, 4.35it/s]
train loss:0.03985581331211867
20%|███████████████ | 2349/12000 [08:58<36:57, 4.35it/s]
train loss:0.01849203843605328
20%|███████████████ | 2350/12000 [08:58<36:52, 4.36it/s]
train loss:0.02506418191415876
20%|███████████████ | 2351/12000 [08:58<36:47, 4.37it/s]
train loss:0.01845359132560745
20%|███████████████ | 2352/12000 [08:58<36:47, 4.37it/s]
train loss:0.015508789378244188
20%|███████████████ | 2353/12000 [08:59<36:21, 4.42it/s]
train loss:0.02522728128035713
20%|███████████████ | 2354/12000 [08:59<36:52, 4.36it/s]
train loss:0.013396591359056359
20%|███████████████ | 2355/12000 [08:59<37:16, 4.31it/s]
train loss:0.019190000522520144
20%|███████████████ | 2356/12000 [08:59<37:08, 4.33it/s]
train loss:0.01594471524766701
20%|███████████████ | 2357/12000 [09:00<37:16, 4.31it/s]
train loss:0.021634691528257505
20%|███████████████▏ | 2358/12000 [09:00<36:50, 4.36it/s]
train loss:0.03442494663919567
20%|███████████████▏ | 2359/12000 [09:00<36:44, 4.37it/s]
train loss:0.048852841341784255
20%|███████████████▏ | 2360/12000 [09:00<36:43, 4.38it/s]
train loss:0.036985881611535265
20%|███████████████▏ | 2361/12000 [09:01<36:43, 4.37it/s]
train loss:0.012987509420077885
20%|███████████████▏ | 2362/12000 [09:01<36:15, 4.43it/s]
train loss:0.09764747828809739
20%|███████████████▏ | 2363/12000 [09:01<36:19, 4.42it/s]
train loss:0.01319146943904218
20%|███████████████▏ | 2364/12000 [09:01<36:36, 4.39it/s]
train loss:0.006233696168198378
20%|███████████████▏ | 2365/12000 [09:01<36:34, 4.39it/s]
train loss:0.0453092246335186
20%|███████████████▏ | 2366/12000 [09:02<36:44, 4.37it/s]
train loss:0.056502110531376964
20%|███████████████▏ | 2367/12000 [09:02<36:53, 4.35it/s]
train loss:0.026939368366547777
20%|███████████████▏ | 2368/12000 [09:02<36:51, 4.35it/s]
train loss:0.033924071684064014
20%|███████████████▏ | 2369/12000 [09:02<36:47, 4.36it/s]
train loss:0.04730231904014934
20%|███████████████▏ | 2370/12000 [09:03<36:34, 4.39it/s]
train loss:0.03672070434522964
20%|███████████████▏ | 2371/12000 [09:03<36:20, 4.42it/s]
train loss:0.028554229768859782
20%|███████████████▏ | 2372/12000 [09:03<36:33, 4.39it/s]
train loss:0.011068786271179656
20%|███████████████▏ | 2373/12000 [09:03<36:31, 4.39it/s]
train loss:0.008719041093353471
20%|███████████████▏ | 2374/12000 [09:04<36:43, 4.37it/s]
train loss:0.02177867459451751
20%|███████████████▏ | 2375/12000 [09:04<36:14, 4.43it/s]
train loss:0.006088585748114653
20%|███████████████▏ | 2376/12000 [09:04<36:17, 4.42it/s]
train loss:0.014111697469411967
20%|███████████████▎ | 2377/12000 [09:04<36:25, 4.40it/s]
train loss:0.012512098160964385
20%|███████████████▎ | 2378/12000 [09:04<36:24, 4.40it/s]
train loss:0.03144412618723455
20%|███████████████▎ | 2379/12000 [09:05<36:14, 4.43it/s]
train loss:0.029951867292893147
20%|███████████████▎ | 2380/12000 [09:05<36:12, 4.43it/s]
train loss:0.08231110728836848
20%|███████████████▎ | 2381/12000 [09:05<36:18, 4.42it/s]
train loss:0.010880910750841468
20%|███████████████▎ | 2382/12000 [09:05<36:21, 4.41it/s]
train loss:0.020276697647730817
20%|███████████████▎ | 2383/12000 [09:06<36:29, 4.39it/s]
train loss:0.029822722323137353
20%|███████████████▎ | 2384/12000 [09:06<36:16, 4.42it/s]
train loss:0.019203005187292913
20%|███████████████▎ | 2385/12000 [09:06<36:25, 4.40it/s]
train loss:0.09222437882018966
20%|███████████████▎ | 2386/12000 [09:06<36:35, 4.38it/s]
train loss:0.017133407859185282
20%|███████████████▎ | 2387/12000 [09:06<36:36, 4.38it/s]
train loss:0.011051399687286856
20%|███████████████▎ | 2388/12000 [09:07<36:13, 4.42it/s]
train loss:0.015524647730688568
20%|███████████████▎ | 2389/12000 [09:07<35:48, 4.47it/s]
train loss:0.016541555697814465
20%|███████████████▎ | 2390/12000 [09:07<36:08, 4.43it/s]
train loss:0.016377875469468492
20%|███████████████▎ | 2391/12000 [09:07<36:25, 4.40it/s]
train loss:0.026623582084232083
20%|███████████████▎ | 2392/12000 [09:08<36:29, 4.39it/s]
train loss:0.0151618839465622
20%|███████████████▎ | 2393/12000 [09:08<36:18, 4.41it/s]
train loss:0.015726594061396006
20%|███████████████▎ | 2394/12000 [09:08<36:42, 4.36it/s]
train loss:0.014282736351893772
20%|███████████████▎ | 2395/12000 [09:08<36:55, 4.34it/s]
train loss:0.017878154882301406
20%|███████████████▎ | 2396/12000 [09:09<36:50, 4.34it/s]
train loss:0.013938933295224793
20%|███████████████▍ | 2397/12000 [09:09<36:23, 4.40it/s]
train loss:0.050879037825930194
20%|███████████████▍ | 2398/12000 [09:09<36:26, 4.39it/s]
train loss:0.01013524005010108
20%|███████████████▍ | 2399/12000 [09:09<36:36, 4.37it/s]
train loss:0.009886331763971901
20%|███████████████▍ | 2400/12000 [09:09<36:51, 4.34it/s]
train loss:0.016096491380915137 train loss:0.011050649239515065
20%|███████████████ | 2401/12000 [09:11<1:52:17, 1.42it/s]
=== epoch:5, train acc:0.987, test acc:0.986 ===
20%|███████████████ | 2402/12000 [09:11<1:29:28, 1.79it/s]
train loss:0.045359114134038044
20%|███████████████ | 2403/12000 [09:12<1:13:06, 2.19it/s]
train loss:0.008974341312128159
20%|███████████████ | 2404/12000 [09:12<1:02:03, 2.58it/s]
train loss:0.007433379405456263
20%|███████████████▍ | 2405/12000 [09:12<54:24, 2.94it/s]
train loss:0.003188421476058069
20%|███████████████▍ | 2406/12000 [09:12<49:00, 3.26it/s]
train loss:0.011322016233894757
20%|███████████████▍ | 2407/12000 [09:13<45:06, 3.54it/s]
train loss:0.03280201730213451
20%|███████████████▍ | 2408/12000 [09:13<42:06, 3.80it/s]
train loss:0.011864468536222328
20%|███████████████▍ | 2409/12000 [09:13<40:39, 3.93it/s]
train loss:0.03249709404214376
20%|███████████████▍ | 2410/12000 [09:13<39:39, 4.03it/s]
train loss:0.030952351351789895
20%|███████████████▍ | 2411/12000 [09:14<39:35, 4.04it/s]
train loss:0.023749512792194855
20%|███████████████▍ | 2412/12000 [09:14<38:52, 4.11it/s]
train loss:0.04161573225995508
20%|███████████████▍ | 2413/12000 [09:14<38:52, 4.11it/s]
train loss:0.022214794234606844
20%|███████████████▍ | 2414/12000 [09:14<38:10, 4.19it/s]
train loss:0.04628891238981511
20%|███████████████▍ | 2415/12000 [09:14<37:39, 4.24it/s]
train loss:0.013543112199909009
20%|███████████████▌ | 2416/12000 [09:15<36:58, 4.32it/s]
train loss:0.01972782448529701
20%|███████████████▌ | 2417/12000 [09:15<36:52, 4.33it/s]
train loss:0.02587469231446858
20%|███████████████▌ | 2418/12000 [09:15<36:43, 4.35it/s]
train loss:0.02617944030381222
20%|███████████████▌ | 2419/12000 [09:15<36:57, 4.32it/s]
train loss:0.045051113605882896
20%|███████████████▌ | 2420/12000 [09:16<36:51, 4.33it/s]
train loss:0.0255700962034433
20%|███████████████▌ | 2421/12000 [09:16<37:48, 4.22it/s]
train loss:0.02889639456668504
20%|███████████████▌ | 2422/12000 [09:16<37:45, 4.23it/s]
train loss:0.06493807540380722
20%|███████████████▌ | 2423/12000 [09:16<37:23, 4.27it/s]
train loss:0.024077514941399918
20%|███████████████▌ | 2424/12000 [09:17<37:19, 4.28it/s]
train loss:0.03430260859676277
20%|███████████████▌ | 2425/12000 [09:17<37:00, 4.31it/s]
train loss:0.024604821966806613
20%|███████████████▌ | 2426/12000 [09:17<37:07, 4.30it/s]
train loss:0.009273759378015712
20%|███████████████▌ | 2427/12000 [09:17<37:04, 4.30it/s]
train loss:0.025388436546896508
20%|███████████████▌ | 2428/12000 [09:17<37:54, 4.21it/s]
train loss:0.015262112491547193
20%|███████████████▌ | 2429/12000 [09:18<37:20, 4.27it/s]
train loss:0.004022450118104014
20%|███████████████▌ | 2430/12000 [09:18<37:02, 4.31it/s]
train loss:0.10216272867741712
20%|███████████████▌ | 2431/12000 [09:18<36:59, 4.31it/s]
train loss:0.021167840755239253
20%|███████████████▌ | 2432/12000 [09:18<36:45, 4.34it/s]
train loss:0.00960753736328965
20%|███████████████▌ | 2433/12000 [09:19<36:59, 4.31it/s]
train loss:0.025258711925014582
20%|███████████████▌ | 2434/12000 [09:19<36:28, 4.37it/s]
train loss:0.077062788665957
20%|███████████████▌ | 2435/12000 [09:19<36:44, 4.34it/s]
train loss:0.01788760791347735
20%|███████████████▋ | 2436/12000 [09:19<36:43, 4.34it/s]
train loss:0.018298212912447633
20%|███████████████▋ | 2437/12000 [09:20<37:34, 4.24it/s]
train loss:0.14425875437891184
20%|███████████████▋ | 2438/12000 [09:20<36:42, 4.34it/s]
train loss:0.02417740031321258
20%|███████████████▋ | 2439/12000 [09:20<36:48, 4.33it/s]
train loss:0.07492716919665914
20%|███████████████▋ | 2440/12000 [09:20<36:56, 4.31it/s]
train loss:0.01998777758945587
20%|███████████████▋ | 2441/12000 [09:20<36:52, 4.32it/s]
train loss:0.026801759175521876
20%|███████████████▋ | 2442/12000 [09:21<36:32, 4.36it/s]
train loss:0.044753769621607174
20%|███████████████▋ | 2443/12000 [09:21<36:44, 4.33it/s]
train loss:0.02268767023898713
20%|███████████████▋ | 2444/12000 [09:21<37:00, 4.30it/s]
train loss:0.043097902323139516
20%|███████████████▋ | 2445/12000 [09:21<36:58, 4.31it/s]
train loss:0.02508469368288109
20%|███████████████▋ | 2446/12000 [09:22<36:45, 4.33it/s]
train loss:0.013258140978670355
20%|███████████████▋ | 2447/12000 [09:22<36:29, 4.36it/s]
train loss:0.022566087438257013
20%|███████████████▋ | 2448/12000 [09:22<36:57, 4.31it/s]
train loss:0.018106322416980264
20%|███████████████▋ | 2449/12000 [09:22<36:42, 4.34it/s]
train loss:0.09987957524384493
20%|███████████████▋ | 2450/12000 [09:23<36:36, 4.35it/s]
train loss:0.04010244756566734
20%|███████████████▋ | 2451/12000 [09:23<36:20, 4.38it/s]
train loss:0.07787344366684315
20%|███████████████▋ | 2452/12000 [09:23<35:59, 4.42it/s]
train loss:0.010739640066025593
20%|███████████████▋ | 2453/12000 [09:23<36:34, 4.35it/s]
train loss:0.052380565417683114
20%|███████████████▋ | 2454/12000 [09:23<36:32, 4.35it/s]
train loss:0.02129165289629973
20%|███████████████▊ | 2455/12000 [09:24<36:02, 4.41it/s]
train loss:0.04229681831163166
20%|███████████████▊ | 2456/12000 [09:24<36:08, 4.40it/s]
train loss:0.020220171603955617
20%|███████████████▊ | 2457/12000 [09:24<36:21, 4.37it/s]
train loss:0.029377116201447742
20%|███████████████▊ | 2458/12000 [09:24<36:29, 4.36it/s]
train loss:0.01933212745777778
20%|███████████████▊ | 2459/12000 [09:25<36:22, 4.37it/s]
train loss:0.05505520564003022
20%|███████████████▊ | 2460/12000 [09:25<38:30, 4.13it/s]
train loss:0.022794345084041177
21%|███████████████▊ | 2461/12000 [09:25<38:20, 4.15it/s]
train loss:0.030732396719910068
21%|███████████████▊ | 2462/12000 [09:25<37:41, 4.22it/s]
train loss:0.00662962333752905
21%|███████████████▊ | 2463/12000 [09:26<38:03, 4.18it/s]
train loss:0.006999343538273809
21%|███████████████▊ | 2464/12000 [09:26<37:21, 4.25it/s]
train loss:0.017900885550451322
21%|███████████████▊ | 2465/12000 [09:26<37:10, 4.28it/s]
train loss:0.085392823475766
21%|███████████████▊ | 2466/12000 [09:26<37:11, 4.27it/s]
train loss:0.06509505584091425
21%|███████████████▊ | 2467/12000 [09:26<36:53, 4.31it/s]
train loss:0.02055661103829698
21%|███████████████▊ | 2468/12000 [09:27<36:13, 4.39it/s]
train loss:0.02773855573609965
21%|███████████████▊ | 2469/12000 [09:27<36:14, 4.38it/s]
train loss:0.014970004988318632
21%|███████████████▊ | 2470/12000 [09:27<36:11, 4.39it/s]
train loss:0.023530800829768925
21%|███████████████▊ | 2471/12000 [09:27<36:14, 4.38it/s]
train loss:0.011717574111758193
21%|███████████████▊ | 2472/12000 [09:28<35:59, 4.41it/s]
train loss:0.0368597683520915
21%|███████████████▊ | 2473/12000 [09:28<35:52, 4.43it/s]
train loss:0.018274106574073957
21%|███████████████▊ | 2474/12000 [09:28<36:01, 4.41it/s]
train loss:0.02137368281446387
21%|███████████████▉ | 2475/12000 [09:28<36:06, 4.40it/s]
train loss:0.05249723976344893
21%|███████████████▉ | 2476/12000 [09:29<36:10, 4.39it/s]
train loss:0.028329594528665025
21%|███████████████▉ | 2477/12000 [09:29<35:53, 4.42it/s]
train loss:0.026094777766825485
21%|███████████████▉ | 2478/12000 [09:29<35:57, 4.41it/s]
train loss:0.06912412639119114
21%|███████████████▉ | 2479/12000 [09:29<36:01, 4.40it/s]
train loss:0.011884093457788845
21%|███████████████▉ | 2480/12000 [09:29<36:00, 4.41it/s]
train loss:0.11068509963874167
21%|███████████████▉ | 2481/12000 [09:30<35:39, 4.45it/s]
train loss:0.055363762394470876
21%|███████████████▉ | 2482/12000 [09:30<35:46, 4.43it/s]
train loss:0.026294772146702523
21%|███████████████▉ | 2483/12000 [09:30<35:49, 4.43it/s]
train loss:0.04681821745736515
21%|███████████████▉ | 2484/12000 [09:30<35:53, 4.42it/s]
train loss:0.029544052995078774
21%|███████████████▉ | 2485/12000 [09:31<35:48, 4.43it/s]
train loss:0.031386031093871794
21%|███████████████▉ | 2486/12000 [09:31<35:29, 4.47it/s]
train loss:0.014593600662267548
21%|███████████████▉ | 2487/12000 [09:31<35:43, 4.44it/s]
train loss:0.032936550885301986
21%|███████████████▉ | 2488/12000 [09:31<35:56, 4.41it/s]
train loss:0.034410596403447145
21%|███████████████▉ | 2489/12000 [09:31<35:58, 4.41it/s]
train loss:0.006690051078382467
21%|███████████████▉ | 2490/12000 [09:32<35:37, 4.45it/s]
train loss:0.014087920745207377
21%|███████████████▉ | 2491/12000 [09:32<35:46, 4.43it/s]
train loss:0.027093928550378205
21%|███████████████▉ | 2492/12000 [09:32<35:49, 4.42it/s]
train loss:0.042915413578363114
21%|███████████████▉ | 2493/12000 [09:32<35:55, 4.41it/s]
train loss:0.0199285477751087
21%|████████████████ | 2494/12000 [09:33<35:54, 4.41it/s]
train loss:0.0560969964811618
21%|████████████████ | 2495/12000 [09:33<35:45, 4.43it/s]
train loss:0.05045775982905761
21%|████████████████ | 2496/12000 [09:33<36:51, 4.30it/s]
train loss:0.020528298373607142
21%|████████████████ | 2497/12000 [09:33<36:44, 4.31it/s]
train loss:0.024644035958049416
21%|████████████████ | 2498/12000 [09:34<36:35, 4.33it/s]
train loss:0.04348022374897733
21%|████████████████ | 2499/12000 [09:34<36:06, 4.38it/s]
train loss:0.02208334638580276
21%|████████████████ | 2500/12000 [09:34<36:05, 4.39it/s]
train loss:0.03998341317951905
21%|████████████████ | 2501/12000 [09:34<36:09, 4.38it/s]
train loss:0.009180523710157004
21%|████████████████ | 2502/12000 [09:34<36:17, 4.36it/s]
train loss:0.051640216592007154
21%|████████████████ | 2503/12000 [09:35<35:56, 4.40it/s]
train loss:0.04044350789834282
21%|████████████████ | 2504/12000 [09:35<36:04, 4.39it/s]
train loss:0.0711313115460332
21%|████████████████ | 2505/12000 [09:35<36:02, 4.39it/s]
train loss:0.0670028599723546
21%|████████████████ | 2506/12000 [09:35<36:01, 4.39it/s]
train loss:0.01581407587366149
21%|████████████████ | 2507/12000 [09:36<35:55, 4.40it/s]
train loss:0.05100382087289668
21%|████████████████ | 2508/12000 [09:36<35:39, 4.44it/s]
train loss:0.058682963582204685
21%|████████████████ | 2509/12000 [09:36<35:42, 4.43it/s]
train loss:0.05515875030828
21%|████████████████ | 2510/12000 [09:36<35:52, 4.41it/s]
train loss:0.04486421194040131
21%|████████████████ | 2511/12000 [09:36<35:47, 4.42it/s]
train loss:0.03612194508165346
21%|████████████████ | 2512/12000 [09:37<37:30, 4.22it/s]
train loss:0.0066026967461431585
21%|████████████████▏ | 2513/12000 [09:37<37:06, 4.26it/s]
train loss:0.07752239372967913
21%|████████████████▏ | 2514/12000 [09:37<36:46, 4.30it/s]
train loss:0.039337674064672805
21%|████████████████▏ | 2516/12000 [09:38<35:33, 4.45it/s]
train loss:0.06183657127914663 train loss:0.06042241741565628
21%|████████████████▏ | 2517/12000 [09:38<35:59, 4.39it/s]
train loss:0.019297335502997618
21%|████████████████▏ | 2518/12000 [09:38<35:52, 4.40it/s]
train loss:0.01991125744480997
21%|████████████████▏ | 2519/12000 [09:38<35:56, 4.40it/s]
train loss:0.042030608327046075
21%|████████████████▏ | 2520/12000 [09:39<35:59, 4.39it/s]
train loss:0.01943734741731378
21%|████████████████▏ | 2521/12000 [09:39<35:36, 4.44it/s]
train loss:0.007936445958962392
21%|████████████████▏ | 2522/12000 [09:39<35:47, 4.41it/s]
train loss:0.016514992934794862
21%|████████████████▏ | 2523/12000 [09:39<36:01, 4.38it/s]
train loss:0.015416484654296826
21%|████████████████▏ | 2524/12000 [09:39<36:06, 4.37it/s]
train loss:0.01473716924127181
21%|████████████████▏ | 2525/12000 [09:40<35:43, 4.42it/s]
train loss:0.03651958839367112
21%|████████████████▏ | 2526/12000 [09:40<35:50, 4.40it/s]
train loss:0.018404432421263536
21%|████████████████▏ | 2527/12000 [09:40<36:12, 4.36it/s]
train loss:0.01737277033236451
21%|████████████████▏ | 2528/12000 [09:40<36:08, 4.37it/s]
train loss:0.008007774813499772
21%|████████████████▏ | 2529/12000 [09:41<35:56, 4.39it/s]
train loss:0.004548173790614552
21%|████████████████▏ | 2530/12000 [09:41<36:05, 4.37it/s]
train loss:0.011143432294250268
21%|████████████████▏ | 2531/12000 [09:41<36:14, 4.36it/s]
train loss:0.05409500451168756
21%|████████████████▏ | 2532/12000 [09:41<36:25, 4.33it/s]
train loss:0.013909556882131328
21%|████████████████▎ | 2533/12000 [09:42<36:17, 4.35it/s]
train loss:0.011216320036610786
21%|████████████████▎ | 2534/12000 [09:42<35:35, 4.43it/s]
train loss:0.016792720614986666
21%|████████████████▎ | 2535/12000 [09:42<36:08, 4.36it/s]
train loss:0.04627039231582117
21%|████████████████▎ | 2536/12000 [09:42<36:24, 4.33it/s]
train loss:0.00979893645308542
21%|████████████████▎ | 2537/12000 [09:42<36:28, 4.32it/s]
train loss:0.050687472462702644
21%|████████████████▎ | 2538/12000 [09:43<35:55, 4.39it/s]
train loss:0.04986148647421222
21%|████████████████▎ | 2539/12000 [09:43<35:50, 4.40it/s]
train loss:0.009494743630615126
21%|████████████████▎ | 2540/12000 [09:43<35:49, 4.40it/s]
train loss:0.007263246740893708
21%|████████████████▎ | 2541/12000 [09:43<35:51, 4.40it/s]
train loss:0.020137168900190433
21%|████████████████▎ | 2542/12000 [09:44<35:48, 4.40it/s]
train loss:0.011839181171049602
21%|████████████████▎ | 2543/12000 [09:44<35:46, 4.41it/s]
train loss:0.02508289331337134
21%|████████████████▎ | 2544/12000 [09:44<36:08, 4.36it/s]
train loss:0.009289796950171743
21%|████████████████▎ | 2545/12000 [09:44<36:05, 4.37it/s]
train loss:0.009569324651049463
21%|████████████████▎ | 2546/12000 [09:44<36:22, 4.33it/s]
train loss:0.017761947826736076
21%|████████████████▎ | 2547/12000 [09:45<35:23, 4.45it/s]
train loss:0.0076933153078368845
21%|████████████████▎ | 2548/12000 [09:45<35:53, 4.39it/s]
train loss:0.011791042542591812
21%|████████████████▎ | 2549/12000 [09:45<36:00, 4.37it/s]
train loss:0.030559160700623447
21%|████████████████▎ | 2550/12000 [09:45<35:59, 4.38it/s]
train loss:0.0048718812272945
21%|████████████████▎ | 2551/12000 [09:46<35:51, 4.39it/s]
train loss:0.018382365863726966
21%|████████████████▍ | 2552/12000 [09:46<36:22, 4.33it/s]
train loss:0.011400823466254753
21%|████████████████▍ | 2553/12000 [09:46<36:19, 4.33it/s]
train loss:0.003995523860517706
21%|████████████████▍ | 2554/12000 [09:46<36:09, 4.35it/s]
train loss:0.006467457018495807
21%|████████████████▍ | 2555/12000 [09:47<36:09, 4.35it/s]
train loss:0.0728689687882559
21%|████████████████▍ | 2556/12000 [09:47<35:45, 4.40it/s]
train loss:0.005544215682482617
21%|████████████████▍ | 2557/12000 [09:47<35:45, 4.40it/s]
train loss:0.007800489233700109
21%|████████████████▍ | 2558/12000 [09:47<35:45, 4.40it/s]
train loss:0.038492378144573396
21%|████████████████▍ | 2559/12000 [09:47<35:46, 4.40it/s]
train loss:0.03540277925828015
21%|████████████████▍ | 2560/12000 [09:48<35:24, 4.44it/s]
train loss:0.05717547391276236
21%|████████████████▍ | 2561/12000 [09:48<35:24, 4.44it/s]
train loss:0.010733323551209656
21%|████████████████▍ | 2562/12000 [09:48<35:39, 4.41it/s]
train loss:0.014477232206136208
21%|████████████████▍ | 2563/12000 [09:48<35:39, 4.41it/s]
train loss:0.043620223107336466
21%|████████████████▍ | 2564/12000 [09:49<35:35, 4.42it/s]
train loss:0.07108720953024555
21%|████████████████▍ | 2565/12000 [09:49<35:22, 4.44it/s]
train loss:0.014352124483635771
21%|████████████████▍ | 2566/12000 [09:49<35:30, 4.43it/s]
train loss:0.011897686250955332
21%|████████████████▍ | 2567/12000 [09:49<35:38, 4.41it/s]
train loss:0.010651453391205032
21%|████████████████▍ | 2568/12000 [09:49<35:51, 4.38it/s]
train loss:0.01587555164456103
21%|████████████████▍ | 2569/12000 [09:50<35:21, 4.45it/s]
train loss:0.03538052179545252
21%|████████████████▍ | 2570/12000 [09:50<35:28, 4.43it/s]
train loss:0.04707840422127651
21%|████████████████▍ | 2571/12000 [09:50<35:32, 4.42it/s]
train loss:0.01506559079342703
21%|████████████████▌ | 2572/12000 [09:50<35:43, 4.40it/s]
train loss:0.08654343194188648
21%|████████████████▌ | 2573/12000 [09:51<35:31, 4.42it/s]
train loss:0.012597646038724226
21%|████████████████▌ | 2574/12000 [09:51<35:25, 4.43it/s]
train loss:0.04662593766097966
21%|████████████████▌ | 2575/12000 [09:51<35:30, 4.42it/s]
train loss:0.027273873316316314
21%|████████████████▌ | 2576/12000 [09:51<35:30, 4.42it/s]
train loss:0.057080734924319115
21%|████████████████▌ | 2577/12000 [09:52<35:44, 4.39it/s]
train loss:0.005889180624569779
21%|████████████████▌ | 2578/12000 [09:52<35:13, 4.46it/s]
train loss:0.014870598939651642
21%|████████████████▌ | 2579/12000 [09:52<35:22, 4.44it/s]
train loss:0.005730891874485199
22%|████████████████▌ | 2580/12000 [09:52<35:46, 4.39it/s]
train loss:0.006024586004026428
22%|████████████████▌ | 2581/12000 [09:52<35:44, 4.39it/s]
train loss:0.03155677877737393
22%|████████████████▌ | 2582/12000 [09:53<35:19, 4.44it/s]
train loss:0.00893382244044016
22%|████████████████▌ | 2583/12000 [09:53<35:26, 4.43it/s]
train loss:0.020652255137982287
22%|████████████████▌ | 2584/12000 [09:53<35:29, 4.42it/s]
train loss:0.04939411419641113
22%|████████████████▌ | 2585/12000 [09:53<35:35, 4.41it/s]
train loss:0.008149882685312552
22%|████████████████▌ | 2586/12000 [09:54<35:38, 4.40it/s]
train loss:0.01973077577028729
22%|████████████████▌ | 2587/12000 [09:54<35:11, 4.46it/s]
train loss:0.04069966700838075
22%|████████████████▌ | 2588/12000 [09:54<35:19, 4.44it/s]
train loss:0.03096484879827291
22%|████████████████▌ | 2589/12000 [09:54<35:30, 4.42it/s]
train loss:0.0245402595004964
22%|████████████████▌ | 2590/12000 [09:54<35:39, 4.40it/s]
train loss:0.012116096615071563
22%|████████████████▋ | 2591/12000 [09:55<35:18, 4.44it/s]
train loss:0.016248604625728073
22%|████████████████▋ | 2592/12000 [09:55<35:27, 4.42it/s]
train loss:0.05013591081016219
22%|████████████████▋ | 2593/12000 [09:55<35:27, 4.42it/s]
train loss:0.012431468554091935
22%|████████████████▋ | 2594/12000 [09:55<36:03, 4.35it/s]
train loss:0.015392948683446855
22%|████████████████▋ | 2595/12000 [09:56<35:53, 4.37it/s]
train loss:0.013378079965812301
22%|████████████████▋ | 2596/12000 [09:56<35:43, 4.39it/s]
train loss:0.03130391094439816
22%|████████████████▋ | 2597/12000 [09:56<35:55, 4.36it/s]
train loss:0.030234985701570075
22%|████████████████▋ | 2598/12000 [09:56<35:58, 4.36it/s]
train loss:0.03398879143991409
22%|████████████████▋ | 2599/12000 [09:57<36:46, 4.26it/s]
train loss:0.011617421716158016
22%|████████████████▋ | 2600/12000 [09:57<36:09, 4.33it/s]
train loss:0.026002717909582383
22%|████████████████▋ | 2601/12000 [09:57<36:18, 4.31it/s]
train loss:0.010293911449910846
22%|████████████████▋ | 2602/12000 [09:57<36:18, 4.31it/s]
train loss:0.13808870500177334
22%|████████████████▋ | 2603/12000 [09:57<36:12, 4.33it/s]
train loss:0.013779395757285009
22%|████████████████▋ | 2604/12000 [09:58<35:41, 4.39it/s]
train loss:0.01254294248560264
22%|████████████████▋ | 2605/12000 [09:58<35:39, 4.39it/s]
train loss:0.014405608267176025
22%|████████████████▋ | 2606/12000 [09:58<35:38, 4.39it/s]
train loss:0.023178621062876725
22%|████████████████▋ | 2607/12000 [09:58<35:43, 4.38it/s]
train loss:0.012406227201606144
22%|████████████████▋ | 2608/12000 [09:59<35:54, 4.36it/s]
train loss:0.06470364810912349
22%|████████████████▋ | 2609/12000 [09:59<35:35, 4.40it/s]
train loss:0.076874198359783
22%|████████████████▋ | 2610/12000 [09:59<35:38, 4.39it/s]
train loss:0.05600434851143508
22%|████████████████▊ | 2611/12000 [09:59<35:36, 4.39it/s]
train loss:0.015815979403489205
22%|████████████████▊ | 2612/12000 [10:00<35:41, 4.38it/s]
train loss:0.00952213786285096
22%|████████████████▊ | 2613/12000 [10:00<35:12, 4.44it/s]
train loss:0.017156234815792773
22%|████████████████▊ | 2614/12000 [10:00<35:11, 4.45it/s]
train loss:0.018911288641271475
22%|████████████████▊ | 2615/12000 [10:00<35:13, 4.44it/s]
train loss:0.008812835582010129
22%|████████████████▊ | 2616/12000 [10:00<35:15, 4.44it/s]
train loss:0.009640629791638634
22%|████████████████▊ | 2617/12000 [10:01<35:08, 4.45it/s]
train loss:0.014108329444049583
22%|████████████████▊ | 2618/12000 [10:01<34:50, 4.49it/s]
train loss:0.011818964298732734
22%|████████████████▊ | 2619/12000 [10:01<35:09, 4.45it/s]
train loss:0.011276122367555475
22%|████████████████▊ | 2620/12000 [10:01<35:10, 4.44it/s]
train loss:0.01552039970717
22%|████████████████▊ | 2621/12000 [10:02<35:17, 4.43it/s]
train loss:0.019439163009141936
22%|████████████████▊ | 2622/12000 [10:02<34:51, 4.48it/s]
train loss:0.0057366614368812765
22%|████████████████▊ | 2623/12000 [10:02<34:41, 4.50it/s]
train loss:0.006117246322807293
22%|████████████████▊ | 2624/12000 [10:02<35:07, 4.45it/s]
train loss:0.033327391343189364
22%|████████████████▊ | 2625/12000 [10:02<35:11, 4.44it/s]
train loss:0.0032216588089982266
22%|████████████████▊ | 2626/12000 [10:03<34:54, 4.48it/s]
train loss:0.07691346846724406
22%|████████████████▊ | 2627/12000 [10:03<34:51, 4.48it/s]
train loss:0.03340303479143884
22%|████████████████▊ | 2628/12000 [10:03<35:00, 4.46it/s]
train loss:0.03054610315594174
22%|████████████████▊ | 2629/12000 [10:03<35:17, 4.43it/s]
train loss:0.05651174425585293
22%|████████████████▉ | 2630/12000 [10:04<35:26, 4.41it/s]
train loss:0.08826392665927592
22%|████████████████▉ | 2631/12000 [10:04<35:06, 4.45it/s]
train loss:0.01029923312335184
22%|████████████████▉ | 2632/12000 [10:04<35:18, 4.42it/s]
train loss:0.008436343121463328
22%|████████████████▉ | 2633/12000 [10:04<35:18, 4.42it/s]
train loss:0.01217515323987907
22%|████████████████▉ | 2634/12000 [10:04<35:24, 4.41it/s]
train loss:0.03416076817564182
22%|████████████████▉ | 2635/12000 [10:05<35:01, 4.46it/s]
train loss:0.01694938546625977
22%|████████████████▉ | 2636/12000 [10:05<35:15, 4.43it/s]
train loss:0.021353556893065142
22%|████████████████▉ | 2637/12000 [10:05<35:21, 4.41it/s]
train loss:0.013673082435818303
22%|████████████████▉ | 2638/12000 [10:05<35:24, 4.41it/s]
train loss:0.0057332358938190645
22%|████████████████▉ | 2639/12000 [10:06<35:20, 4.41it/s]
train loss:0.0063687952006266126
22%|████████████████▉ | 2640/12000 [10:06<34:59, 4.46it/s]
train loss:0.023958073728775054
22%|████████████████▉ | 2641/12000 [10:06<35:09, 4.44it/s]
train loss:0.0187370712825056
22%|████████████████▉ | 2642/12000 [10:06<35:18, 4.42it/s]
train loss:0.01359519911279528
22%|████████████████▉ | 2643/12000 [10:06<35:17, 4.42it/s]
train loss:0.02951402235119452
22%|████████████████▉ | 2644/12000 [10:07<35:11, 4.43it/s]
train loss:0.013198824207263307
22%|████████████████▉ | 2645/12000 [10:07<35:17, 4.42it/s]
train loss:0.005563190392713337
22%|████████████████▉ | 2646/12000 [10:07<35:19, 4.41it/s]
train loss:0.014304335415634428
22%|████████████████▉ | 2647/12000 [10:07<35:24, 4.40it/s]
train loss:0.024916727059489153
22%|████████████████▉ | 2648/12000 [10:08<35:15, 4.42it/s]
train loss:0.01701507281306092
22%|████████████████▉ | 2649/12000 [10:08<35:31, 4.39it/s]
train loss:0.02384507640430059
22%|█████████████████ | 2650/12000 [10:08<35:32, 4.39it/s]
train loss:0.027295490761864466
22%|█████████████████ | 2651/12000 [10:08<35:43, 4.36it/s]
train loss:0.04114099281761288
22%|█████████████████ | 2652/12000 [10:09<35:50, 4.35it/s]
train loss:0.03983582695640251
22%|█████████████████ | 2653/12000 [10:09<35:15, 4.42it/s]
train loss:0.011996573720342327
22%|█████████████████ | 2654/12000 [10:09<35:17, 4.41it/s]
train loss:0.04088984183089519
22%|█████████████████ | 2655/12000 [10:09<35:18, 4.41it/s]
train loss:0.0286436421185317
22%|█████████████████ | 2656/12000 [10:09<35:21, 4.40it/s]
train loss:0.022587885415348983
22%|█████████████████ | 2657/12000 [10:10<35:00, 4.45it/s]
train loss:0.019336028200126067
22%|█████████████████ | 2658/12000 [10:10<35:06, 4.43it/s]
train loss:0.02030042251947417
22%|█████████████████ | 2659/12000 [10:10<35:12, 4.42it/s]
train loss:0.01683426295095035
22%|█████████████████ | 2660/12000 [10:10<35:14, 4.42it/s]
train loss:0.014339735212779425
22%|█████████████████ | 2661/12000 [10:11<35:19, 4.41it/s]
train loss:0.010049783107882506
22%|█████████████████ | 2662/12000 [10:11<34:56, 4.45it/s]
train loss:0.039817575261281955
22%|█████████████████ | 2663/12000 [10:11<35:03, 4.44it/s]
train loss:0.09165913438739264
22%|█████████████████ | 2664/12000 [10:11<35:11, 4.42it/s]
train loss:0.04388553792200524
22%|█████████████████ | 2665/12000 [10:12<38:39, 4.03it/s]
train loss:0.009627340178057253
22%|█████████████████ | 2666/12000 [10:12<38:44, 4.01it/s]
train loss:0.09403590063444695
22%|█████████████████ | 2667/12000 [10:12<37:53, 4.11it/s]
train loss:0.028065003284529034
22%|█████████████████ | 2668/12000 [10:12<37:09, 4.19it/s]
train loss:0.0637581568036682
22%|█████████████████▏ | 2669/12000 [10:12<36:40, 4.24it/s]
train loss:0.02916382006875654
22%|█████████████████▏ | 2670/12000 [10:13<38:32, 4.04it/s]
train loss:0.0046050441079458744
22%|█████████████████▏ | 2671/12000 [10:13<37:45, 4.12it/s]
train loss:0.013350397610518417
22%|█████████████████▏ | 2672/12000 [10:13<37:08, 4.19it/s]
train loss:0.007786663838189303
22%|█████████████████▏ | 2673/12000 [10:13<36:37, 4.24it/s]
train loss:0.04620921857332633
22%|█████████████████▏ | 2674/12000 [10:14<35:47, 4.34it/s]
train loss:0.048329801651140036
22%|█████████████████▏ | 2675/12000 [10:14<35:34, 4.37it/s]
train loss:0.00658547404896589
22%|█████████████████▏ | 2676/12000 [10:14<35:29, 4.38it/s]
train loss:0.03481201692769689
22%|█████████████████▏ | 2677/12000 [10:14<35:26, 4.38it/s]
train loss:0.031908770080159105
22%|█████████████████▏ | 2678/12000 [10:15<35:20, 4.40it/s]
train loss:0.019726180519579507
22%|█████████████████▏ | 2679/12000 [10:15<34:58, 4.44it/s]
train loss:0.024709841466438037
22%|█████████████████▏ | 2680/12000 [10:15<35:08, 4.42it/s]
train loss:0.00844447914189616
22%|█████████████████▏ | 2681/12000 [10:15<35:13, 4.41it/s]
train loss:0.026108096604513423
22%|█████████████████▏ | 2682/12000 [10:15<35:14, 4.41it/s]
train loss:0.01208446197475979
22%|█████████████████▏ | 2683/12000 [10:16<34:54, 4.45it/s]
train loss:0.03084677334263308
22%|█████████████████▏ | 2684/12000 [10:16<34:59, 4.44it/s]
train loss:0.032904996168478716
22%|█████████████████▏ | 2685/12000 [10:16<35:02, 4.43it/s]
train loss:0.05899781442768168
22%|█████████████████▏ | 2686/12000 [10:16<35:09, 4.42it/s]
train loss:0.01304066603705587
22%|█████████████████▏ | 2687/12000 [10:17<35:09, 4.41it/s]
train loss:0.027436733246055365
22%|█████████████████▏ | 2688/12000 [10:17<35:03, 4.43it/s]
train loss:0.04033278343065496
22%|█████████████████▎ | 2689/12000 [10:17<35:06, 4.42it/s]
train loss:0.013006594203672733
22%|█████████████████▎ | 2690/12000 [10:17<35:05, 4.42it/s]
train loss:0.018521902018937025
22%|█████████████████▎ | 2691/12000 [10:18<35:19, 4.39it/s]
train loss:0.03628452896375016
22%|█████████████████▎ | 2692/12000 [10:18<34:54, 4.44it/s]
train loss:0.04773977599710071
22%|█████████████████▎ | 2693/12000 [10:18<34:59, 4.43it/s]
train loss:0.07877387097369506
22%|█████████████████▎ | 2694/12000 [10:18<35:04, 4.42it/s]
train loss:0.012410609949459424
22%|█████████████████▎ | 2695/12000 [10:18<35:09, 4.41it/s]
train loss:0.006812312913888623
22%|█████████████████▎ | 2696/12000 [10:19<34:57, 4.44it/s]
train loss:0.022163585649095242
22%|█████████████████▎ | 2697/12000 [10:19<34:56, 4.44it/s]
train loss:0.061409185178527476
22%|█████████████████▎ | 2698/12000 [10:19<35:03, 4.42it/s]
train loss:0.03473873033268788
22%|█████████████████▎ | 2699/12000 [10:19<35:11, 4.40it/s]
train loss:0.03144673355863334
22%|█████████████████▎ | 2700/12000 [10:20<35:15, 4.40it/s]
train loss:0.014330647884917603
23%|█████████████████▎ | 2701/12000 [10:20<35:04, 4.42it/s]
train loss:0.01829051678278915
23%|█████████████████▎ | 2702/12000 [10:20<35:09, 4.41it/s]
train loss:0.040763969551056795
23%|█████████████████▎ | 2703/12000 [10:20<35:13, 4.40it/s]
train loss:0.015383903213640714
23%|█████████████████▎ | 2704/12000 [10:20<35:16, 4.39it/s]
train loss:0.004511571537304416
23%|█████████████████▎ | 2705/12000 [10:21<35:32, 4.36it/s]
train loss:0.020665102973988613
23%|█████████████████▎ | 2706/12000 [10:21<35:41, 4.34it/s]
train loss:0.03823632301465292
23%|█████████████████▎ | 2707/12000 [10:21<35:36, 4.35it/s]
train loss:0.006241333581947256
23%|█████████████████▍ | 2708/12000 [10:21<35:48, 4.32it/s]
train loss:0.005007681709057215
23%|█████████████████▍ | 2709/12000 [10:22<36:03, 4.30it/s]
train loss:0.020480940798858763
23%|█████████████████▍ | 2710/12000 [10:22<35:38, 4.34it/s]
train loss:0.021783375687224014
23%|█████████████████▍ | 2711/12000 [10:22<35:31, 4.36it/s]
train loss:0.030369603637603326
23%|█████████████████▍ | 2712/12000 [10:22<35:37, 4.34it/s]
train loss:0.019188621149130183
23%|█████████████████▍ | 2713/12000 [10:23<36:22, 4.26it/s]
train loss:0.013146910132606791
23%|█████████████████▍ | 2714/12000 [10:23<35:46, 4.33it/s]
train loss:0.027725796972306024
23%|█████████████████▍ | 2715/12000 [10:23<35:37, 4.34it/s]
train loss:0.034792029167275154
23%|█████████████████▍ | 2716/12000 [10:23<35:34, 4.35it/s]
train loss:0.11080977388140903
23%|█████████████████▍ | 2717/12000 [10:23<35:19, 4.38it/s]
train loss:0.03161980522527789
23%|█████████████████▍ | 2718/12000 [10:24<36:16, 4.26it/s]
train loss:0.017585235199335084
23%|█████████████████▍ | 2719/12000 [10:24<36:06, 4.28it/s]
train loss:0.01664769898195705
23%|█████████████████▍ | 2720/12000 [10:24<35:50, 4.31it/s]
train loss:0.026949262064263447
23%|█████████████████▍ | 2721/12000 [10:24<35:38, 4.34it/s]
train loss:0.01100841133326737
23%|█████████████████▍ | 2722/12000 [10:25<35:24, 4.37it/s]
train loss:0.017718888045832094
23%|█████████████████▍ | 2723/12000 [10:25<35:12, 4.39it/s]
train loss:0.05103694718544144
23%|█████████████████▍ | 2724/12000 [10:25<35:10, 4.40it/s]
train loss:0.027094139244875744
23%|█████████████████▍ | 2725/12000 [10:25<35:06, 4.40it/s]
train loss:0.03667195688294049
23%|█████████████████▍ | 2726/12000 [10:26<35:10, 4.39it/s]
train loss:0.04961233860593504
23%|█████████████████▍ | 2727/12000 [10:26<34:40, 4.46it/s]
train loss:0.00778133429237451
23%|█████████████████▌ | 2728/12000 [10:26<34:49, 4.44it/s]
train loss:0.08063973688816092
23%|█████████████████▌ | 2729/12000 [10:26<34:54, 4.43it/s]
train loss:0.043284920114017134
23%|█████████████████▌ | 2730/12000 [10:26<34:55, 4.42it/s]
train loss:0.016503177412244805
23%|█████████████████▌ | 2731/12000 [10:27<35:00, 4.41it/s]
train loss:0.006972808460950709
23%|█████████████████▌ | 2732/12000 [10:27<34:57, 4.42it/s]
train loss:0.015399319974846252
23%|█████████████████▌ | 2733/12000 [10:27<34:59, 4.41it/s]
train loss:0.011277666564006274
23%|█████████████████▌ | 2734/12000 [10:27<36:16, 4.26it/s]
train loss:0.010658067958219561
23%|█████████████████▌ | 2735/12000 [10:28<37:51, 4.08it/s]
train loss:0.025270303458968746
23%|█████████████████▌ | 2736/12000 [10:28<38:34, 4.00it/s]
train loss:0.03006494296451307
23%|█████████████████▌ | 2737/12000 [10:28<37:44, 4.09it/s]
train loss:0.03379877745465258
23%|█████████████████▌ | 2738/12000 [10:28<37:08, 4.16it/s]
train loss:0.009279087889069365
23%|█████████████████▌ | 2739/12000 [10:29<36:31, 4.23it/s]
train loss:0.030954060780392204
23%|█████████████████▌ | 2740/12000 [10:29<35:41, 4.32it/s]
train loss:0.048463345909396605
23%|█████████████████▌ | 2741/12000 [10:29<35:47, 4.31it/s]
train loss:0.033485722909365176
23%|█████████████████▌ | 2742/12000 [10:29<35:32, 4.34it/s]
train loss:0.023264310787889958
23%|█████████████████▌ | 2743/12000 [10:29<35:23, 4.36it/s]
train loss:0.0558284863567943
23%|█████████████████▌ | 2744/12000 [10:30<35:03, 4.40it/s]
train loss:0.020141208571097812
23%|█████████████████▌ | 2745/12000 [10:30<35:02, 4.40it/s]
train loss:0.03212940018349022
23%|█████████████████▌ | 2746/12000 [10:30<35:19, 4.37it/s]
train loss:0.0988250418810323
23%|█████████████████▋ | 2747/12000 [10:30<35:14, 4.38it/s]
train loss:0.0054486444485446475
23%|█████████████████▋ | 2748/12000 [10:31<35:15, 4.37it/s]
train loss:0.011110478565973879
23%|█████████████████▋ | 2749/12000 [10:31<35:03, 4.40it/s]
train loss:0.03388634659267984
23%|█████████████████▋ | 2750/12000 [10:31<35:01, 4.40it/s]
train loss:0.02165355304285834
23%|█████████████████▋ | 2751/12000 [10:31<35:07, 4.39it/s]
train loss:0.043556036196125844
23%|█████████████████▋ | 2752/12000 [10:32<35:11, 4.38it/s]
train loss:0.004139145052346147
23%|█████████████████▋ | 2753/12000 [10:32<35:27, 4.35it/s]
train loss:0.00562136617370845
23%|█████████████████▋ | 2754/12000 [10:32<35:19, 4.36it/s]
train loss:0.019398635549900414
23%|█████████████████▋ | 2755/12000 [10:32<35:15, 4.37it/s]
train loss:0.015263725464718327
23%|█████████████████▋ | 2756/12000 [10:32<35:15, 4.37it/s]
train loss:0.021977823267995307
23%|█████████████████▋ | 2757/12000 [10:33<34:52, 4.42it/s]
train loss:0.02047181014609275
23%|█████████████████▋ | 2758/12000 [10:33<34:50, 4.42it/s]
train loss:0.04401963580680486
23%|█████████████████▋ | 2759/12000 [10:33<34:52, 4.42it/s]
train loss:0.029104836983244713
23%|█████████████████▋ | 2760/12000 [10:33<34:53, 4.41it/s]
train loss:0.03214247556318304
23%|█████████████████▋ | 2761/12000 [10:34<34:52, 4.41it/s]
train loss:0.016812060666688493
23%|█████████████████▋ | 2762/12000 [10:34<34:36, 4.45it/s]
train loss:0.005519059269169141
23%|█████████████████▋ | 2763/12000 [10:34<34:41, 4.44it/s]
train loss:0.025624896703781076
23%|█████████████████▋ | 2764/12000 [10:34<34:47, 4.42it/s]
train loss:0.04250571799120812
23%|█████████████████▋ | 2765/12000 [10:34<34:53, 4.41it/s]
train loss:0.01194142703369226
23%|█████████████████▋ | 2766/12000 [10:35<34:34, 4.45it/s]
train loss:0.010836124758794063
23%|█████████████████▊ | 2767/12000 [10:35<34:55, 4.41it/s]
train loss:0.011528144632827706
23%|█████████████████▊ | 2768/12000 [10:35<34:56, 4.40it/s]
train loss:0.0331094867241318
23%|█████████████████▊ | 2769/12000 [10:35<34:43, 4.43it/s]
train loss:0.025477282831434595
23%|█████████████████▊ | 2770/12000 [10:36<34:49, 4.42it/s]
train loss:0.04959199540738204
23%|█████████████████▊ | 2771/12000 [10:36<34:44, 4.43it/s]
train loss:0.01589915044406231
23%|█████████████████▊ | 2772/12000 [10:36<34:50, 4.41it/s]
train loss:0.021221793007051435
23%|█████████████████▊ | 2773/12000 [10:36<34:41, 4.43it/s]
train loss:0.053100207533481665
23%|█████████████████▊ | 2774/12000 [10:37<35:10, 4.37it/s]
train loss:0.008056122040479279
23%|█████████████████▊ | 2775/12000 [10:37<34:53, 4.41it/s]
train loss:0.045813794844371605
23%|█████████████████▊ | 2776/12000 [10:37<35:01, 4.39it/s]
train loss:0.02051820346743403
23%|█████████████████▊ | 2777/12000 [10:37<35:02, 4.39it/s]
train loss:0.031550623044934535
23%|█████████████████▊ | 2778/12000 [10:37<35:11, 4.37it/s]
train loss:0.0034475379650421942
23%|█████████████████▊ | 2779/12000 [10:38<34:57, 4.40it/s]
train loss:0.009228742057435268
23%|█████████████████▊ | 2780/12000 [10:38<34:57, 4.39it/s]
train loss:0.06535558888860582
23%|█████████████████▊ | 2781/12000 [10:38<35:05, 4.38it/s]
train loss:0.007944853654983366
23%|█████████████████▊ | 2782/12000 [10:38<35:08, 4.37it/s]
train loss:0.01051225190901598
23%|█████████████████▊ | 2783/12000 [10:39<35:07, 4.37it/s]
train loss:0.009910517324340732
23%|█████████████████▊ | 2784/12000 [10:39<34:44, 4.42it/s]
train loss:0.03064938773376812
23%|█████████████████▊ | 2785/12000 [10:39<34:48, 4.41it/s]
train loss:0.06773003411952584
23%|█████████████████▉ | 2786/12000 [10:39<34:53, 4.40it/s]
train loss:0.03806443107156793
23%|█████████████████▉ | 2787/12000 [10:39<34:56, 4.40it/s]
train loss:0.014054776051519634
23%|█████████████████▉ | 2788/12000 [10:40<34:34, 4.44it/s]
train loss:0.04294437089803396
23%|█████████████████▉ | 2789/12000 [10:40<34:40, 4.43it/s]
train loss:0.0550341432628465
23%|█████████████████▉ | 2790/12000 [10:40<34:41, 4.42it/s]
train loss:0.006011002413098593
23%|█████████████████▉ | 2791/12000 [10:40<34:50, 4.41it/s]
train loss:0.0038051031596984756
23%|█████████████████▉ | 2792/12000 [10:41<34:47, 4.41it/s]
train loss:0.005182939561900694
23%|█████████████████▉ | 2793/12000 [10:41<34:42, 4.42it/s]
train loss:0.03641792543761493
23%|█████████████████▉ | 2794/12000 [10:41<34:46, 4.41it/s]
train loss:0.00464703057573603
23%|█████████████████▉ | 2795/12000 [10:41<34:46, 4.41it/s]
train loss:0.014704024716560009
23%|█████████████████▉ | 2796/12000 [10:42<34:51, 4.40it/s]
train loss:0.077955019502699
23%|█████████████████▉ | 2797/12000 [10:42<34:27, 4.45it/s]
train loss:0.007055200720743383
23%|█████████████████▉ | 2798/12000 [10:42<34:33, 4.44it/s]
train loss:0.01033165223100048
23%|█████████████████▉ | 2799/12000 [10:42<34:39, 4.42it/s]
train loss:0.016540526016669686
23%|█████████████████▉ | 2800/12000 [10:42<34:42, 4.42it/s]
train loss:0.03034252645201214
23%|█████████████████▉ | 2801/12000 [10:43<34:36, 4.43it/s]
train loss:0.013386964492873297
23%|█████████████████▉ | 2802/12000 [10:43<34:30, 4.44it/s]
train loss:0.048555524027311475
23%|█████████████████▉ | 2803/12000 [10:43<34:37, 4.43it/s]
train loss:0.029581841862384793
23%|█████████████████▉ | 2804/12000 [10:43<34:55, 4.39it/s]
train loss:0.030900922446678317
23%|█████████████████▉ | 2805/12000 [10:44<34:55, 4.39it/s]
train loss:0.06723736512031714
23%|██████████████████ | 2806/12000 [10:44<34:57, 4.38it/s]
train loss:0.08306201714190538
23%|██████████████████ | 2807/12000 [10:44<35:11, 4.35it/s]
train loss:0.02498852839244379
23%|██████████████████ | 2808/12000 [10:44<35:25, 4.32it/s]
train loss:0.04228522784525066
23%|██████████████████ | 2809/12000 [10:44<35:23, 4.33it/s]
train loss:0.023771564533439146
23%|██████████████████ | 2810/12000 [10:45<34:57, 4.38it/s]
train loss:0.005539976470983778
23%|██████████████████ | 2811/12000 [10:45<35:01, 4.37it/s]
train loss:0.048167358794278275
23%|██████████████████ | 2812/12000 [10:45<34:58, 4.38it/s]
train loss:0.007813452017435787
23%|██████████████████ | 2813/12000 [10:45<35:01, 4.37it/s]
train loss:0.0530716594847396
23%|██████████████████ | 2814/12000 [10:46<35:11, 4.35it/s]
train loss:0.08482795728406817
23%|██████████████████ | 2815/12000 [10:46<36:02, 4.25it/s]
train loss:0.008541270609770075
23%|██████████████████ | 2816/12000 [10:46<36:27, 4.20it/s]
train loss:0.04668264362759313
23%|██████████████████ | 2817/12000 [10:46<36:17, 4.22it/s]
train loss:0.010391018932684452
23%|██████████████████ | 2818/12000 [10:47<36:37, 4.18it/s]
train loss:0.01611697567313144
23%|██████████████████ | 2819/12000 [10:47<36:12, 4.23it/s]
train loss:0.012683248899031623
24%|██████████████████ | 2820/12000 [10:47<35:58, 4.25it/s]
train loss:0.017810931610794948
24%|██████████████████ | 2821/12000 [10:47<35:45, 4.28it/s]
train loss:0.01287056048640221
24%|██████████████████ | 2822/12000 [10:48<35:38, 4.29it/s]
train loss:0.020309763253883645
24%|██████████████████ | 2823/12000 [10:48<35:07, 4.35it/s]
train loss:0.008155504007859034
24%|██████████████████ | 2824/12000 [10:48<35:18, 4.33it/s]
train loss:0.010202209337139261
24%|██████████████████▏ | 2825/12000 [10:48<35:08, 4.35it/s]
train loss:0.025271295241349447
24%|██████████████████▏ | 2826/12000 [10:48<34:59, 4.37it/s]
train loss:0.02576799570102815
24%|██████████████████▏ | 2827/12000 [10:49<34:35, 4.42it/s]
train loss:0.020448422753190473
24%|██████████████████▏ | 2828/12000 [10:49<34:34, 4.42it/s]
train loss:0.026136283584266885
24%|██████████████████▏ | 2829/12000 [10:49<34:34, 4.42it/s]
train loss:0.019586277496479232
24%|██████████████████▏ | 2830/12000 [10:49<34:37, 4.41it/s]
train loss:0.02201152403894364
24%|██████████████████▏ | 2831/12000 [10:50<34:48, 4.39it/s]
train loss:0.005382484005672658
24%|██████████████████▏ | 2832/12000 [10:50<34:28, 4.43it/s]
train loss:0.01565068332734143
24%|██████████████████▏ | 2833/12000 [10:50<34:14, 4.46it/s]
train loss:0.010800329836451657
24%|██████████████████▏ | 2834/12000 [10:50<34:38, 4.41it/s]
train loss:0.027296517925916666
24%|██████████████████▏ | 2835/12000 [10:50<34:40, 4.41it/s]
train loss:0.053806622031602566
24%|██████████████████▏ | 2836/12000 [10:51<34:18, 4.45it/s]
train loss:0.012251758042223854
24%|██████████████████▏ | 2837/12000 [10:51<34:24, 4.44it/s]
train loss:0.0275048861027649
24%|██████████████████▏ | 2838/12000 [10:51<34:28, 4.43it/s]
train loss:0.012636093793337926
24%|██████████████████▏ | 2839/12000 [10:51<34:32, 4.42it/s]
train loss:0.02517571464188971
24%|██████████████████▏ | 2840/12000 [10:52<34:32, 4.42it/s]
train loss:0.014122008435316503
24%|██████████████████▏ | 2841/12000 [10:52<34:20, 4.44it/s]
train loss:0.02441679725720374
24%|██████████████████▏ | 2842/12000 [10:52<34:26, 4.43it/s]
train loss:0.011104382129310792
24%|██████████████████▏ | 2843/12000 [10:52<34:27, 4.43it/s]
train loss:0.021282117891043638
24%|██████████████████▏ | 2844/12000 [10:52<34:35, 4.41it/s]
train loss:0.012019866925663208
24%|██████████████████▎ | 2845/12000 [10:53<34:12, 4.46it/s]
train loss:0.009987067856966687
24%|██████████████████▎ | 2846/12000 [10:53<34:25, 4.43it/s]
train loss:0.015820222209512676
24%|██████████████████▎ | 2847/12000 [10:53<34:28, 4.42it/s]
train loss:0.02357635193523081
24%|██████████████████▎ | 2848/12000 [10:53<34:32, 4.42it/s]
train loss:0.042517813720706156
24%|██████████████████▎ | 2849/12000 [10:54<34:24, 4.43it/s]
train loss:0.015141561251796363
24%|██████████████████▎ | 2850/12000 [10:54<34:26, 4.43it/s]
train loss:0.02275001332139816
24%|██████████████████▎ | 2851/12000 [10:54<34:28, 4.42it/s]
train loss:0.03531865779847022
24%|██████████████████▎ | 2852/12000 [10:54<34:39, 4.40it/s]
train loss:0.02155119027922512
24%|██████████████████▎ | 2853/12000 [10:55<34:42, 4.39it/s]
train loss:0.039191174945442664
24%|██████████████████▎ | 2854/12000 [10:55<34:14, 4.45it/s]
train loss:0.03696706209048266
24%|██████████████████▎ | 2855/12000 [10:55<34:21, 4.44it/s]
train loss:0.012647457167141673
24%|██████████████████▎ | 2856/12000 [10:55<34:25, 4.43it/s]
train loss:0.03900998999956313
24%|██████████████████▎ | 2857/12000 [10:55<34:31, 4.41it/s]
train loss:0.04683552128086593
24%|██████████████████▎ | 2858/12000 [10:56<34:12, 4.45it/s]
train loss:0.01993197626062705
24%|██████████████████▎ | 2859/12000 [10:56<34:13, 4.45it/s]
train loss:0.008210966761737694
24%|██████████████████▎ | 2860/12000 [10:56<34:26, 4.42it/s]
train loss:0.008546983937316604
24%|██████████████████▎ | 2861/12000 [10:56<34:33, 4.41it/s]
train loss:0.007529553963162873
24%|██████████████████▎ | 2862/12000 [10:57<34:39, 4.39it/s]
train loss:0.009968196820809103
24%|██████████████████▎ | 2863/12000 [10:57<34:20, 4.43it/s]
train loss:0.059110220199175785
24%|██████████████████▍ | 2864/12000 [10:57<34:23, 4.43it/s]
train loss:0.011779387344885405
24%|██████████████████▍ | 2865/12000 [10:57<34:27, 4.42it/s]
train loss:0.005903499110808632
24%|██████████████████▍ | 2867/12000 [10:58<33:49, 4.50it/s]
train loss:0.007983748573769925 train loss:0.01875522865055088
24%|██████████████████▍ | 2868/12000 [10:58<33:58, 4.48it/s]
train loss:0.02481834608843711
24%|██████████████████▍ | 2869/12000 [10:58<34:33, 4.40it/s]
train loss:0.05669625422287636
24%|██████████████████▍ | 2870/12000 [10:58<34:30, 4.41it/s]
train loss:0.006857116338764346
24%|██████████████████▍ | 2871/12000 [10:59<34:32, 4.41it/s]
train loss:0.02981181733140226
24%|██████████████████▍ | 2872/12000 [10:59<34:26, 4.42it/s]
train loss:0.021095640039114065
24%|██████████████████▍ | 2873/12000 [10:59<34:34, 4.40it/s]
train loss:0.1355037770980204
24%|██████████████████▍ | 2874/12000 [10:59<34:33, 4.40it/s]
train loss:0.048358126226160696
24%|██████████████████▍ | 2875/12000 [10:59<34:58, 4.35it/s]
train loss:0.01258944060209122
24%|██████████████████▍ | 2876/12000 [11:00<34:18, 4.43it/s]
train loss:0.01136634195647755
24%|██████████████████▍ | 2877/12000 [11:00<34:32, 4.40it/s]
train loss:0.02021109285486504
24%|██████████████████▍ | 2878/12000 [11:00<34:58, 4.35it/s]
train loss:0.004377863134183298
24%|██████████████████▍ | 2879/12000 [11:00<35:05, 4.33it/s]
train loss:0.014130670868934263
24%|██████████████████▍ | 2880/12000 [11:01<34:44, 4.38it/s]
train loss:0.006259976394370929
24%|██████████████████▍ | 2881/12000 [11:01<34:37, 4.39it/s]
train loss:0.005881511782532694
24%|██████████████████▍ | 2882/12000 [11:01<34:34, 4.40it/s]
train loss:0.007132725483936942
24%|██████████████████▍ | 2883/12000 [11:01<34:42, 4.38it/s]
train loss:0.0037588964766733864
24%|██████████████████▌ | 2884/12000 [11:02<34:34, 4.39it/s]
train loss:0.03455074611122568
24%|██████████████████▌ | 2885/12000 [11:02<34:28, 4.41it/s]
train loss:0.04422511986891662
24%|██████████████████▌ | 2886/12000 [11:02<34:31, 4.40it/s]
train loss:0.03137086173271942
24%|██████████████████▌ | 2887/12000 [11:02<34:29, 4.40it/s]
train loss:0.06484982103053005
24%|██████████████████▌ | 2888/12000 [11:02<34:30, 4.40it/s]
train loss:0.015576316356246152
24%|██████████████████▌ | 2889/12000 [11:03<34:09, 4.45it/s]
train loss:0.005985973333557658
24%|██████████████████▌ | 2890/12000 [11:03<34:23, 4.41it/s]
train loss:0.01037428582580288
24%|██████████████████▌ | 2891/12000 [11:03<34:22, 4.42it/s]
train loss:0.00931816223438522
24%|██████████████████▌ | 2892/12000 [11:03<34:25, 4.41it/s]
train loss:0.011022105654699153
24%|██████████████████▌ | 2893/12000 [11:04<34:25, 4.41it/s]
train loss:0.053739912722291505
24%|██████████████████▌ | 2894/12000 [11:04<35:51, 4.23it/s]
train loss:0.02708943982084414
24%|██████████████████▌ | 2895/12000 [11:04<35:24, 4.29it/s]
train loss:0.0071676740909538085
24%|██████████████████▌ | 2896/12000 [11:04<35:08, 4.32it/s]
train loss:0.021934628147453034
24%|██████████████████▌ | 2897/12000 [11:05<34:57, 4.34it/s]
train loss:0.07505153983105908
24%|██████████████████▌ | 2898/12000 [11:05<34:20, 4.42it/s]
train loss:0.036718704987949796
24%|██████████████████▌ | 2899/12000 [11:05<34:21, 4.42it/s]
train loss:0.053341999827749204
24%|██████████████████▌ | 2900/12000 [11:05<34:24, 4.41it/s]
train loss:0.007890248872726487
24%|██████████████████▌ | 2901/12000 [11:05<34:22, 4.41it/s]
train loss:0.015363338091077799
24%|██████████████████▌ | 2902/12000 [11:06<34:01, 4.46it/s]
train loss:0.018102475528956583
24%|██████████████████▋ | 2903/12000 [11:06<34:07, 4.44it/s]
train loss:0.020893226365846146
24%|██████████████████▋ | 2904/12000 [11:06<34:11, 4.43it/s]
train loss:0.052317752650007224
24%|██████████████████▋ | 2905/12000 [11:06<34:17, 4.42it/s]
train loss:0.005919714747686845
24%|██████████████████▋ | 2906/12000 [11:07<34:20, 4.41it/s]
train loss:0.04008908548463653
24%|██████████████████▋ | 2907/12000 [11:07<34:08, 4.44it/s]
train loss:0.0277197582166358
24%|██████████████████▋ | 2908/12000 [11:07<34:19, 4.42it/s]
train loss:0.04271180960868601
24%|██████████████████▋ | 2909/12000 [11:07<34:21, 4.41it/s]
train loss:0.018645574515919056
24%|██████████████████▋ | 2910/12000 [11:07<34:22, 4.41it/s]
train loss:0.010888098668660801
24%|██████████████████▋ | 2911/12000 [11:08<34:00, 4.45it/s]
train loss:0.023514408028408762
24%|██████████████████▋ | 2912/12000 [11:08<34:11, 4.43it/s]
train loss:0.01705486904578792
24%|██████████████████▋ | 2913/12000 [11:08<34:15, 4.42it/s]
train loss:0.022596295940783353
24%|██████████████████▋ | 2914/12000 [11:08<34:18, 4.41it/s]
train loss:0.013288146965111308
24%|██████████████████▋ | 2915/12000 [11:09<34:18, 4.41it/s]
train loss:0.005562292539125752
24%|██████████████████▋ | 2916/12000 [11:09<33:56, 4.46it/s]
train loss:0.025647908439488876
24%|██████████████████▋ | 2917/12000 [11:09<34:02, 4.45it/s]
train loss:0.026495011436047364
24%|██████████████████▋ | 2918/12000 [11:09<34:06, 4.44it/s]
train loss:0.02536588696009377
24%|██████████████████▋ | 2919/12000 [11:09<34:14, 4.42it/s]
train loss:0.030492284041637747
24%|██████████████████▋ | 2920/12000 [11:10<33:58, 4.45it/s]
train loss:0.012757923682362646
24%|██████████████████▋ | 2921/12000 [11:10<34:08, 4.43it/s]
train loss:0.05467528233320548
24%|██████████████████▋ | 2922/12000 [11:10<34:18, 4.41it/s]
train loss:0.019180848515939694
24%|██████████████████▊ | 2923/12000 [11:10<34:25, 4.39it/s]
train loss:0.029858294039328798
24%|██████████████████▊ | 2924/12000 [11:11<34:10, 4.43it/s]
train loss:0.0506473734354383
24%|██████████████████▊ | 2925/12000 [11:11<34:19, 4.41it/s]
train loss:0.03988740675094314
24%|██████████████████▊ | 2926/12000 [11:11<34:23, 4.40it/s]
train loss:0.004547139861133641
24%|██████████████████▊ | 2927/12000 [11:11<34:22, 4.40it/s]
train loss:0.05349221161751424
24%|██████████████████▊ | 2928/12000 [11:12<34:29, 4.38it/s]
train loss:0.00580353707635073
24%|██████████████████▊ | 2929/12000 [11:12<34:01, 4.44it/s]
train loss:0.01563790457149878
24%|██████████████████▊ | 2930/12000 [11:12<34:08, 4.43it/s]
train loss:0.0532559448419518
24%|██████████████████▊ | 2931/12000 [11:12<34:14, 4.41it/s]
train loss:0.024122579108171918
24%|██████████████████▊ | 2932/12000 [11:12<34:24, 4.39it/s]
train loss:0.05061959792172771
24%|██████████████████▊ | 2933/12000 [11:13<34:05, 4.43it/s]
train loss:0.11766761350061788
24%|██████████████████▊ | 2934/12000 [11:13<34:07, 4.43it/s]
train loss:0.019298115994437082
24%|██████████████████▊ | 2935/12000 [11:13<34:32, 4.37it/s]
train loss:0.010037782531397263
24%|██████████████████▊ | 2936/12000 [11:13<36:18, 4.16it/s]
train loss:0.04766913943485188
24%|██████████████████▊ | 2937/12000 [11:14<35:30, 4.25it/s]
train loss:0.0215860256280177
24%|██████████████████▊ | 2938/12000 [11:14<35:06, 4.30it/s]
train loss:0.059283419368481007
24%|██████████████████▊ | 2939/12000 [11:14<34:52, 4.33it/s]
train loss:0.042372337262501586
24%|██████████████████▊ | 2940/12000 [11:14<34:51, 4.33it/s]
train loss:0.017803260873767043
25%|██████████████████▊ | 2941/12000 [11:15<34:43, 4.35it/s]
train loss:0.016558844519448338
25%|██████████████████▉ | 2942/12000 [11:15<34:09, 4.42it/s]
train loss:0.052099811058531405
25%|██████████████████▉ | 2943/12000 [11:15<34:10, 4.42it/s]
train loss:0.04041380740234765
25%|██████████████████▉ | 2944/12000 [11:15<34:12, 4.41it/s]
train loss:0.01659682923328957
25%|██████████████████▉ | 2945/12000 [11:15<34:19, 4.40it/s]
train loss:0.03450149458065249
25%|██████████████████▉ | 2946/12000 [11:16<33:58, 4.44it/s]
train loss:0.026958527548174037
25%|██████████████████▉ | 2947/12000 [11:16<34:04, 4.43it/s]
train loss:0.010523198798221872
25%|██████████████████▉ | 2948/12000 [11:16<34:17, 4.40it/s]
train loss:0.01941454593946105
25%|██████████████████▉ | 2949/12000 [11:16<34:29, 4.37it/s]
train loss:0.009811570616379868
25%|██████████████████▉ | 2950/12000 [11:17<34:23, 4.38it/s]
train loss:0.005652835262650867
25%|██████████████████▉ | 2951/12000 [11:17<34:00, 4.43it/s]
train loss:0.020594285516754525
25%|██████████████████▉ | 2952/12000 [11:17<34:02, 4.43it/s]
train loss:0.05050844307631347
25%|██████████████████▉ | 2953/12000 [11:17<34:06, 4.42it/s]
train loss:0.03753375949253343
25%|██████████████████▉ | 2954/12000 [11:17<34:07, 4.42it/s]
train loss:0.009991195285532679
25%|██████████████████▉ | 2955/12000 [11:18<33:52, 4.45it/s]
train loss:0.012271231441002495
25%|██████████████████▉ | 2956/12000 [11:18<34:13, 4.40it/s]
train loss:0.011695598019132256
25%|██████████████████▉ | 2957/12000 [11:18<34:33, 4.36it/s]
train loss:0.0526889952327881
25%|██████████████████▉ | 2958/12000 [11:18<34:42, 4.34it/s]
train loss:0.010557968967265572
25%|██████████████████▉ | 2959/12000 [11:19<34:45, 4.34it/s]
train loss:0.015734138688786613
25%|██████████████████▉ | 2960/12000 [11:19<34:22, 4.38it/s]
train loss:0.006420072890572637
25%|██████████████████▉ | 2961/12000 [11:19<34:22, 4.38it/s]
train loss:0.02205394076169105
25%|███████████████████ | 2962/12000 [11:19<34:43, 4.34it/s]
train loss:0.017711999762716608
25%|███████████████████ | 2963/12000 [11:20<34:45, 4.33it/s]
train loss:0.02699905167185154
25%|███████████████████ | 2964/12000 [11:20<36:37, 4.11it/s]
train loss:0.011470331371202848
25%|███████████████████ | 2965/12000 [11:20<38:22, 3.92it/s]
train loss:0.018407719139384663
25%|███████████████████ | 2966/12000 [11:20<37:17, 4.04it/s]
train loss:0.048297567500566754
25%|███████████████████ | 2967/12000 [11:21<36:21, 4.14it/s]
train loss:0.04754768327076344
25%|███████████████████ | 2968/12000 [11:21<35:24, 4.25it/s]
train loss:0.003311930086296084
25%|███████████████████ | 2969/12000 [11:21<35:03, 4.29it/s]
train loss:0.01425997045226384
25%|███████████████████ | 2970/12000 [11:21<34:46, 4.33it/s]
train loss:0.034426535500745224
25%|███████████████████ | 2971/12000 [11:21<34:34, 4.35it/s]
train loss:0.016990519387818925
25%|███████████████████ | 2972/12000 [11:22<34:08, 4.41it/s]
train loss:0.0036213008372906136
25%|███████████████████ | 2973/12000 [11:22<34:06, 4.41it/s]
train loss:0.00897833144558454
25%|███████████████████ | 2974/12000 [11:22<34:09, 4.40it/s]
train loss:0.012771928919408301
25%|███████████████████ | 2975/12000 [11:22<34:00, 4.42it/s]
train loss:0.05945734975249499
25%|███████████████████ | 2976/12000 [11:23<34:06, 4.41it/s]
train loss:0.01391274622712906
25%|███████████████████ | 2977/12000 [11:23<33:44, 4.46it/s]
train loss:0.01786028470322242
25%|███████████████████ | 2978/12000 [11:23<33:51, 4.44it/s]
train loss:0.010068688751363925
25%|███████████████████ | 2979/12000 [11:23<33:56, 4.43it/s]
train loss:0.01463111220668743
25%|███████████████████ | 2980/12000 [11:23<33:59, 4.42it/s]
train loss:0.021971251678700388
25%|███████████████████▏ | 2981/12000 [11:24<33:37, 4.47it/s]
train loss:0.012992816394949338
25%|███████████████████▏ | 2982/12000 [11:24<33:50, 4.44it/s]
train loss:0.02954021703405258
25%|███████████████████▏ | 2983/12000 [11:24<33:54, 4.43it/s]
train loss:0.027578091815789005
25%|███████████████████▏ | 2984/12000 [11:24<33:57, 4.42it/s]
train loss:0.0026160150771147566
25%|███████████████████▏ | 2985/12000 [11:25<34:01, 4.41it/s]
train loss:0.01645448076071498
25%|███████████████████▏ | 2986/12000 [11:25<33:56, 4.43it/s]
train loss:0.02684720168605738
25%|███████████████████▏ | 2987/12000 [11:25<34:00, 4.42it/s]
train loss:0.07269809677720226
25%|███████████████████▏ | 2988/12000 [11:25<33:59, 4.42it/s]
train loss:0.055087063605119814
25%|███████████████████▏ | 2989/12000 [11:25<34:07, 4.40it/s]
train loss:0.03534897781158219
25%|███████████████████▏ | 2990/12000 [11:26<33:36, 4.47it/s]
train loss:0.010513125885947952
25%|███████████████████▏ | 2991/12000 [11:26<33:45, 4.45it/s]
train loss:0.011462795758524096
25%|███████████████████▏ | 2992/12000 [11:26<33:49, 4.44it/s]
train loss:0.0075841570579188245
25%|███████████████████▏ | 2993/12000 [11:26<33:57, 4.42it/s]
train loss:0.007365150630039641
25%|███████████████████▏ | 2994/12000 [11:27<33:53, 4.43it/s]
train loss:0.006949022855830519
25%|███████████████████▏ | 2995/12000 [11:27<33:48, 4.44it/s]
train loss:0.009333479598211762
25%|███████████████████▏ | 2996/12000 [11:27<33:43, 4.45it/s]
train loss:0.01605111188159871
25%|███████████████████▏ | 2997/12000 [11:27<33:56, 4.42it/s]
train loss:0.024883866284343758
25%|███████████████████▏ | 2998/12000 [11:28<33:56, 4.42it/s]
train loss:0.004087655178421659
25%|███████████████████▏ | 2999/12000 [11:28<34:16, 4.38it/s]
train loss:0.01637245543298801
25%|███████████████████▎ | 3000/12000 [11:28<34:12, 4.38it/s]
train loss:0.03504594131683201 train loss:0.017263289201410233
25%|██████████████████▊ | 3001/12000 [11:30<1:44:40, 1.43it/s]
=== epoch:6, train acc:0.987, test acc:0.988 ===
25%|██████████████████▊ | 3002/12000 [11:30<1:23:50, 1.79it/s]
train loss:0.01526274565853298
25%|██████████████████▊ | 3003/12000 [11:30<1:08:51, 2.18it/s]
train loss:0.07332381973135396
25%|███████████████████▎ | 3004/12000 [11:30<58:21, 2.57it/s]
train loss:0.055538094872254654
25%|███████████████████▎ | 3005/12000 [11:31<50:41, 2.96it/s]
train loss:0.01030405638800858
25%|███████████████████▎ | 3006/12000 [11:31<45:39, 3.28it/s]
train loss:0.0042812286772064565
25%|███████████████████▎ | 3007/12000 [11:31<42:07, 3.56it/s]
train loss:0.01841288602535566
25%|███████████████████▎ | 3008/12000 [11:31<39:50, 3.76it/s]
train loss:0.014175518655339359
25%|███████████████████▎ | 3009/12000 [11:32<37:57, 3.95it/s]
train loss:0.0028086772615762597
25%|███████████████████▎ | 3010/12000 [11:32<36:53, 4.06it/s]
train loss:0.009263292543822705
25%|███████████████████▎ | 3011/12000 [11:32<36:09, 4.14it/s]
train loss:0.015504340258926878
25%|███████████████████▎ | 3012/12000 [11:32<35:46, 4.19it/s]
train loss:0.010003676644180311
25%|███████████████████▎ | 3013/12000 [11:33<35:15, 4.25it/s]
train loss:0.03376420582425602
25%|███████████████████▎ | 3014/12000 [11:33<34:27, 4.35it/s]
train loss:0.008551006020606074
25%|███████████████████▎ | 3015/12000 [11:33<34:21, 4.36it/s]
train loss:0.007419474586190939
25%|███████████████████▎ | 3016/12000 [11:33<34:14, 4.37it/s]
train loss:0.006458697458978032
25%|███████████████████▎ | 3017/12000 [11:33<34:06, 4.39it/s]
train loss:0.013674374802095258
25%|███████████████████▎ | 3018/12000 [11:34<33:48, 4.43it/s]
train loss:0.010142479766873142
25%|███████████████████▎ | 3019/12000 [11:34<33:47, 4.43it/s]
train loss:0.14480982691361374
25%|███████████████████▍ | 3020/12000 [11:34<33:56, 4.41it/s]
train loss:0.03296274721250063
25%|███████████████████▍ | 3021/12000 [11:34<33:55, 4.41it/s]
train loss:0.012271336421010555
25%|███████████████████▍ | 3022/12000 [11:35<34:15, 4.37it/s]
train loss:0.03542759892739202
25%|███████████████████▍ | 3023/12000 [11:35<33:55, 4.41it/s]
train loss:0.02720172723611582
25%|███████████████████▍ | 3024/12000 [11:35<34:06, 4.39it/s]
train loss:0.02803348586351884
25%|███████████████████▍ | 3025/12000 [11:35<34:03, 4.39it/s]
train loss:0.021655322125881313
25%|███████████████████▍ | 3026/12000 [11:35<33:57, 4.40it/s]
train loss:0.026965880211444655
25%|███████████████████▍ | 3027/12000 [11:36<33:37, 4.45it/s]
train loss:0.005560395070848617
25%|███████████████████▍ | 3028/12000 [11:36<33:43, 4.43it/s]
train loss:0.013534840379844138
25%|███████████████████▍ | 3029/12000 [11:36<33:48, 4.42it/s]
train loss:0.026974594039433187
25%|███████████████████▍ | 3030/12000 [11:36<33:50, 4.42it/s]
train loss:0.017552074571938126
25%|███████████████████▍ | 3031/12000 [11:37<34:18, 4.36it/s]
train loss:0.00877972654321
25%|███████████████████▍ | 3032/12000 [11:37<34:15, 4.36it/s]
train loss:0.033007878556159824
25%|███████████████████▍ | 3033/12000 [11:37<34:07, 4.38it/s]
train loss:0.015216389393738873
25%|███████████████████▍ | 3034/12000 [11:37<34:07, 4.38it/s]
train loss:0.004498635153611185
25%|███████████████████▍ | 3035/12000 [11:38<34:02, 4.39it/s]
train loss:0.011001480777259084
25%|███████████████████▍ | 3036/12000 [11:38<33:35, 4.45it/s]
train loss:0.030080816394492303
25%|███████████████████▍ | 3037/12000 [11:38<33:39, 4.44it/s]
train loss:0.010192260370094382
25%|███████████████████▍ | 3038/12000 [11:38<33:41, 4.43it/s]
train loss:0.13321845897277484
25%|███████████████████▌ | 3039/12000 [11:38<33:43, 4.43it/s]
train loss:0.05410312407022419
25%|███████████████████▌ | 3040/12000 [11:39<33:32, 4.45it/s]
train loss:0.02884575940424825
25%|███████████████████▌ | 3041/12000 [11:39<33:32, 4.45it/s]
train loss:0.005023240129050616
25%|███████████████████▌ | 3042/12000 [11:39<33:18, 4.48it/s]
train loss:0.048935385005805715
25%|███████████████████▌ | 3043/12000 [11:39<33:47, 4.42it/s]
train loss:0.03230104384473337
25%|███████████████████▌ | 3044/12000 [11:40<33:56, 4.40it/s]
train loss:0.007405224672933528
25%|███████████████████▌ | 3045/12000 [11:40<33:43, 4.43it/s]
train loss:0.01104210418982272
25%|███████████████████▌ | 3046/12000 [11:40<33:49, 4.41it/s]
train loss:0.01766724171768834
25%|███████████████████▌ | 3047/12000 [11:40<33:48, 4.41it/s]
train loss:0.02119729935074035
25%|███████████████████▌ | 3048/12000 [11:40<33:42, 4.43it/s]
train loss:0.03891011824495755
25%|███████████████████▌ | 3049/12000 [11:41<33:52, 4.40it/s]
train loss:0.005125256820791821
25%|███████████████████▌ | 3050/12000 [11:41<34:05, 4.37it/s]
train loss:0.029495854647933927
25%|███████████████████▌ | 3051/12000 [11:41<33:59, 4.39it/s]
train loss:0.0229086075643404
25%|███████████████████▌ | 3052/12000 [11:41<33:57, 4.39it/s]
train loss:0.017355346293828348
25%|███████████████████▌ | 3053/12000 [11:42<33:48, 4.41it/s]
train loss:0.011549636449919963
25%|███████████████████▌ | 3054/12000 [11:42<33:27, 4.46it/s]
train loss:0.1240070905826754
25%|███████████████████▌ | 3055/12000 [11:42<33:32, 4.45it/s]
train loss:0.0470336227933536
25%|███████████████████▌ | 3056/12000 [11:42<33:36, 4.44it/s]
train loss:0.03655839788279936
25%|███████████████████▌ | 3057/12000 [11:42<33:38, 4.43it/s]
train loss:0.009424084568362199
25%|███████████████████▌ | 3058/12000 [11:43<33:17, 4.48it/s]
train loss:0.010912322765671991
25%|███████████████████▋ | 3059/12000 [11:43<33:24, 4.46it/s]
train loss:0.005387567864722631
26%|███████████████████▋ | 3060/12000 [11:43<33:28, 4.45it/s]
train loss:0.056369374500165256
26%|███████████████████▋ | 3061/12000 [11:43<33:35, 4.44it/s]
train loss:0.028471695049009784
26%|███████████████████▋ | 3062/12000 [11:44<33:32, 4.44it/s]
train loss:0.017474046853362762
26%|███████████████████▋ | 3063/12000 [11:44<33:27, 4.45it/s]
train loss:0.017591552858858894
26%|███████████████████▋ | 3064/12000 [11:44<33:35, 4.43it/s]
train loss:0.013066571108237017
26%|███████████████████▋ | 3065/12000 [11:44<33:37, 4.43it/s]
train loss:0.003836532107475157
26%|███████████████████▋ | 3066/12000 [11:44<33:51, 4.40it/s]
train loss:0.02035613715168183
26%|███████████████████▋ | 3067/12000 [11:45<33:25, 4.45it/s]
train loss:0.023460960944477787
26%|███████████████████▋ | 3068/12000 [11:45<33:31, 4.44it/s]
train loss:0.011288411034260551
26%|███████████████████▋ | 3069/12000 [11:45<33:38, 4.42it/s]
train loss:0.07467406421581238
26%|███████████████████▋ | 3070/12000 [11:45<33:42, 4.42it/s]
train loss:0.05162450104820026
26%|███████████████████▋ | 3071/12000 [11:46<33:30, 4.44it/s]
train loss:0.017555578146318366
26%|███████████████████▋ | 3072/12000 [11:46<33:25, 4.45it/s]
train loss:0.02685280422490586
26%|███████████████████▋ | 3073/12000 [11:46<33:32, 4.44it/s]
train loss:0.011388100653021123
26%|███████████████████▋ | 3074/12000 [11:46<33:42, 4.41it/s]
train loss:0.032650804483995724
26%|███████████████████▋ | 3075/12000 [11:47<33:49, 4.40it/s]
train loss:0.05158593581286449
26%|███████████████████▋ | 3076/12000 [11:47<33:20, 4.46it/s]
train loss:0.025483513634384048
26%|███████████████████▋ | 3077/12000 [11:47<33:29, 4.44it/s]
train loss:0.052816575503841355
26%|███████████████████▊ | 3078/12000 [11:47<33:32, 4.43it/s]
train loss:0.009699866156448524
26%|███████████████████▊ | 3079/12000 [11:47<34:01, 4.37it/s]
train loss:0.008109266303292024
26%|███████████████████▊ | 3080/12000 [11:48<33:39, 4.42it/s]
train loss:0.012156310891383611
26%|███████████████████▊ | 3081/12000 [11:48<33:50, 4.39it/s]
train loss:0.0024854252252877016
26%|███████████████████▊ | 3082/12000 [11:48<33:58, 4.37it/s]
train loss:0.016435984726001898
26%|███████████████████▊ | 3083/12000 [11:48<34:12, 4.34it/s]
train loss:0.02858503948696359
26%|███████████████████▊ | 3084/12000 [11:49<34:05, 4.36it/s]
train loss:0.01354569253313732
26%|███████████████████▊ | 3085/12000 [11:49<33:47, 4.40it/s]
train loss:0.01904314187519999
26%|███████████████████▊ | 3086/12000 [11:49<33:46, 4.40it/s]
train loss:0.028226460960634078
26%|███████████████████▊ | 3087/12000 [11:49<33:47, 4.40it/s]
train loss:0.0780912236511499
26%|███████████████████▊ | 3088/12000 [11:49<33:44, 4.40it/s]
train loss:0.01375974146141274
26%|███████████████████▊ | 3089/12000 [11:50<33:29, 4.43it/s]
train loss:0.023215616649523336
26%|███████████████████▊ | 3090/12000 [11:50<33:24, 4.44it/s]
train loss:0.03617611652291506
26%|███████████████████▊ | 3091/12000 [11:50<33:58, 4.37it/s]
train loss:0.0348331353268291
26%|███████████████████▊ | 3092/12000 [11:50<33:57, 4.37it/s]
train loss:0.08114220250393467
26%|███████████████████▊ | 3093/12000 [11:51<33:38, 4.41it/s]
train loss:0.03633578091907288
26%|███████████████████▊ | 3094/12000 [11:51<33:37, 4.41it/s]
train loss:0.03438937872944634
26%|███████████████████▊ | 3095/12000 [11:51<33:44, 4.40it/s]
train loss:0.004451544361619692
26%|███████████████████▊ | 3096/12000 [11:51<33:43, 4.40it/s]
train loss:0.009542473635552768
26%|███████████████████▊ | 3097/12000 [11:52<33:49, 4.39it/s]
train loss:0.00848988670442344
26%|███████████████████▉ | 3098/12000 [11:52<33:35, 4.42it/s]
train loss:0.030580182145132154
26%|███████████████████▉ | 3099/12000 [11:52<33:37, 4.41it/s]
train loss:0.01953719503619694
26%|███████████████████▉ | 3100/12000 [11:52<33:34, 4.42it/s]
train loss:0.03488064806923923
26%|███████████████████▉ | 3101/12000 [11:52<33:42, 4.40it/s]
train loss:0.06654974151164343
26%|███████████████████▉ | 3102/12000 [11:53<33:36, 4.41it/s]
train loss:0.022421995426503912
26%|███████████████████▉ | 3103/12000 [11:53<33:39, 4.40it/s]
train loss:0.004646612072150551
26%|███████████████████▉ | 3104/12000 [11:53<33:52, 4.38it/s]
train loss:0.009139939347150386
26%|███████████████████▉ | 3105/12000 [11:53<33:49, 4.38it/s]
train loss:0.05316393708426795
26%|███████████████████▉ | 3106/12000 [11:54<33:42, 4.40it/s]
train loss:0.02231810393454375
26%|███████████████████▉ | 3107/12000 [11:54<33:20, 4.45it/s]
train loss:0.030701389789826804
26%|███████████████████▉ | 3108/12000 [11:54<33:36, 4.41it/s]
train loss:0.018861413586034964
26%|███████████████████▉ | 3109/12000 [11:54<33:34, 4.41it/s]
train loss:0.016971312371173823
26%|███████████████████▉ | 3110/12000 [11:54<33:39, 4.40it/s]
train loss:0.029428563003206832
26%|███████████████████▉ | 3111/12000 [11:55<33:21, 4.44it/s]
train loss:0.020354870213601165
26%|███████████████████▉ | 3112/12000 [11:55<33:28, 4.43it/s]
train loss:0.05294135473473499
26%|███████████████████▉ | 3113/12000 [11:55<33:26, 4.43it/s]
train loss:0.0125202924523132
26%|███████████████████▉ | 3114/12000 [11:55<33:30, 4.42it/s]
train loss:0.01575797449658594
26%|███████████████████▉ | 3115/12000 [11:56<33:55, 4.37it/s]
train loss:0.012023098897603805
26%|███████████████████▉ | 3116/12000 [11:56<33:31, 4.42it/s]
train loss:0.06907589829760546
26%|████████████████████ | 3117/12000 [11:56<33:33, 4.41it/s]
train loss:0.030954681787008047
26%|████████████████████ | 3118/12000 [11:56<33:32, 4.41it/s]
train loss:0.013915206744517574
26%|████████████████████ | 3119/12000 [11:57<33:34, 4.41it/s]
train loss:0.018734526634551107
26%|████████████████████ | 3120/12000 [11:57<33:02, 4.48it/s]
train loss:0.009570043309040367
26%|████████████████████ | 3121/12000 [11:57<33:34, 4.41it/s]
train loss:0.034279094608577816
26%|████████████████████ | 3122/12000 [11:57<33:39, 4.40it/s]
train loss:0.0068753664535621305
26%|████████████████████ | 3123/12000 [11:57<33:49, 4.37it/s]
train loss:0.015221594424437544
26%|████████████████████ | 3124/12000 [11:58<33:29, 4.42it/s]
train loss:0.0175606698032655
26%|████████████████████ | 3125/12000 [11:58<34:12, 4.32it/s]
train loss:0.0024104477491252597
26%|████████████████████ | 3126/12000 [11:58<34:04, 4.34it/s]
train loss:0.027226414756838655
26%|████████████████████ | 3127/12000 [11:58<34:10, 4.33it/s]
train loss:0.06579492628718384
26%|████████████████████ | 3128/12000 [11:59<33:56, 4.36it/s]
train loss:0.006028999799385977
26%|████████████████████ | 3129/12000 [11:59<33:25, 4.42it/s]
train loss:0.0070883053542482935
26%|████████████████████ | 3130/12000 [11:59<33:27, 4.42it/s]
train loss:0.05842014090895245
26%|████████████████████ | 3131/12000 [11:59<33:27, 4.42it/s]
train loss:0.04131941946072785
26%|████████████████████ | 3132/12000 [11:59<33:30, 4.41it/s]
train loss:0.02141306857016129
26%|████████████████████ | 3133/12000 [12:00<33:13, 4.45it/s]
train loss:0.020020187497813903
26%|████████████████████ | 3134/12000 [12:00<33:19, 4.44it/s]
train loss:0.010966737965320647
26%|████████████████████ | 3135/12000 [12:00<33:22, 4.43it/s]
train loss:0.0044707793971450385
26%|████████████████████ | 3136/12000 [12:00<33:24, 4.42it/s]
train loss:0.012919766031726305
26%|████████████████████▏ | 3137/12000 [12:01<33:16, 4.44it/s]
train loss:0.0050020914476478825
26%|████████████████████▏ | 3138/12000 [12:01<33:13, 4.44it/s]
train loss:0.010286350492311046
26%|████████████████████▏ | 3139/12000 [12:01<33:20, 4.43it/s]
train loss:0.0026645919353122595
26%|████████████████████▏ | 3140/12000 [12:01<33:22, 4.43it/s]
train loss:0.016580554576463253
26%|████████████████████▏ | 3141/12000 [12:02<33:29, 4.41it/s]
train loss:0.02984965108048219
26%|████████████████████▏ | 3142/12000 [12:02<33:03, 4.47it/s]
train loss:0.0019299810515409125
26%|████████████████████▏ | 3143/12000 [12:02<33:10, 4.45it/s]
train loss:0.03340165458433639
26%|████████████████████▏ | 3144/12000 [12:02<33:17, 4.43it/s]
train loss:0.02872172475964327
26%|████████████████████▏ | 3145/12000 [12:02<33:19, 4.43it/s]
train loss:0.010331844180407414
26%|████████████████████▏ | 3146/12000 [12:03<33:13, 4.44it/s]
train loss:0.0036127382366283496
26%|████████████████████▏ | 3147/12000 [12:03<33:11, 4.45it/s]
train loss:0.007070451315771853
26%|████████████████████▏ | 3148/12000 [12:03<33:17, 4.43it/s]
train loss:0.04337666617247805
26%|████████████████████▏ | 3149/12000 [12:03<33:12, 4.44it/s]
train loss:0.1117358157173916
26%|████████████████████▏ | 3150/12000 [12:04<33:37, 4.39it/s]
train loss:0.07469285317734546
26%|████████████████████▏ | 3151/12000 [12:04<33:28, 4.40it/s]
train loss:0.03849394573177922
26%|████████████████████▏ | 3152/12000 [12:04<33:38, 4.38it/s]
train loss:0.021011421817593797
26%|████████████████████▏ | 3153/12000 [12:04<33:53, 4.35it/s]
train loss:0.04278472233337464
26%|████████████████████▏ | 3154/12000 [12:04<33:48, 4.36it/s]
train loss:0.023964115499239585
26%|████████████████████▏ | 3155/12000 [12:05<33:20, 4.42it/s]
train loss:0.04348368220025197
26%|████████████████████▎ | 3156/12000 [12:05<33:31, 4.40it/s]
train loss:0.015436644949956288
26%|████████████████████▎ | 3157/12000 [12:05<33:29, 4.40it/s]
train loss:0.0239118364789574
26%|████████████████████▎ | 3158/12000 [12:05<33:32, 4.39it/s]
train loss:0.01814583408346635
26%|████████████████████▎ | 3159/12000 [12:06<33:23, 4.41it/s]
train loss:0.008030715103496204
26%|████████████████████▎ | 3160/12000 [12:06<35:11, 4.19it/s]
train loss:0.013235474722007532
26%|████████████████████▎ | 3161/12000 [12:06<34:49, 4.23it/s]
train loss:0.03107842426864852
26%|████████████████████▎ | 3162/12000 [12:06<34:28, 4.27it/s]
train loss:0.018023386492982515
26%|████████████████████▎ | 3163/12000 [12:07<34:26, 4.28it/s]
train loss:0.005852432107861115
26%|████████████████████▎ | 3164/12000 [12:07<35:23, 4.16it/s]
train loss:0.08122898431587075
26%|████████████████████▎ | 3165/12000 [12:07<34:54, 4.22it/s]
train loss:0.025343012723509778
26%|████████████████████▎ | 3166/12000 [12:07<34:31, 4.27it/s]
train loss:0.048570587552450764
26%|████████████████████▎ | 3167/12000 [12:07<34:14, 4.30it/s]
train loss:0.037977060758017614
26%|████████████████████▎ | 3168/12000 [12:08<33:40, 4.37it/s]
train loss:0.015557880886027225
26%|████████████████████▎ | 3169/12000 [12:08<34:21, 4.28it/s]
train loss:0.006602494470951257
26%|████████████████████▎ | 3170/12000 [12:08<34:05, 4.32it/s]
train loss:0.010170361943324952
26%|████████████████████▎ | 3171/12000 [12:08<33:56, 4.33it/s]
train loss:0.015591634035862239
26%|████████████████████▎ | 3172/12000 [12:09<33:37, 4.38it/s]
train loss:0.07243219141858964
26%|████████████████████▎ | 3173/12000 [12:09<33:24, 4.40it/s]
train loss:0.001734206198329559
26%|████████████████████▎ | 3174/12000 [12:09<33:27, 4.40it/s]
train loss:0.027610124045303042
26%|████████████████████▎ | 3175/12000 [12:09<33:29, 4.39it/s]
train loss:0.008510919924127953
26%|████████████████████▍ | 3176/12000 [12:10<33:35, 4.38it/s]
train loss:0.01269957390211074
26%|████████████████████▍ | 3177/12000 [12:10<33:15, 4.42it/s]
train loss:0.03325984028908531
26%|████████████████████▍ | 3178/12000 [12:10<33:16, 4.42it/s]
train loss:0.03259913198256355
26%|████████████████████▍ | 3179/12000 [12:10<33:18, 4.41it/s]
train loss:0.0319840404876986
26%|████████████████████▍ | 3180/12000 [12:10<33:25, 4.40it/s]
train loss:0.007168660304665652
27%|████████████████████▍ | 3181/12000 [12:11<33:07, 4.44it/s]
train loss:0.008784054885770904
27%|████████████████████▍ | 3182/12000 [12:11<33:17, 4.41it/s]
train loss:0.1055170414806191
27%|████████████████████▍ | 3183/12000 [12:11<33:17, 4.41it/s]
train loss:0.010273153955094809
27%|████████████████████▍ | 3184/12000 [12:11<33:22, 4.40it/s]
train loss:0.010251994619059462
27%|████████████████████▍ | 3185/12000 [12:12<33:17, 4.41it/s]
train loss:0.018611700202072815
27%|████████████████████▍ | 3186/12000 [12:12<32:56, 4.46it/s]
train loss:0.022671084403563427
27%|████████████████████▍ | 3187/12000 [12:12<33:01, 4.45it/s]
train loss:0.03297460477075252
27%|████████████████████▍ | 3188/12000 [12:12<33:08, 4.43it/s]
train loss:0.0030943838952131974
27%|████████████████████▍ | 3189/12000 [12:12<33:13, 4.42it/s]
train loss:0.05624373867213494
27%|████████████████████▍ | 3190/12000 [12:13<33:02, 4.44it/s]
train loss:0.08411803025350714
27%|████████████████████▍ | 3191/12000 [12:13<33:15, 4.42it/s]
train loss:0.01609304021013845
27%|████████████████████▍ | 3192/12000 [12:13<33:19, 4.40it/s]
train loss:0.02340232278469621
27%|████████████████████▍ | 3193/12000 [12:13<33:43, 4.35it/s]
train loss:0.035653096523856245
27%|████████████████████▍ | 3194/12000 [12:14<34:26, 4.26it/s]
train loss:0.0062270194899866115
27%|████████████████████▌ | 3195/12000 [12:14<34:17, 4.28it/s]
train loss:0.012331059019135296
27%|████████████████████▌ | 3196/12000 [12:14<34:16, 4.28it/s]
train loss:0.02331179483763979
27%|████████████████████▌ | 3197/12000 [12:14<34:12, 4.29it/s]
train loss:0.006229882156410233
27%|████████████████████▌ | 3198/12000 [12:15<34:04, 4.30it/s]
train loss:0.04882292031687788
27%|████████████████████▌ | 3199/12000 [12:15<33:38, 4.36it/s]
train loss:0.017980490985891235
27%|████████████████████▌ | 3200/12000 [12:15<33:33, 4.37it/s]
train loss:0.05094770786185748
27%|████████████████████▌ | 3201/12000 [12:15<33:37, 4.36it/s]
train loss:0.005861570531104596
27%|████████████████████▌ | 3202/12000 [12:15<33:27, 4.38it/s]
train loss:0.021502614236665475
27%|████████████████████▌ | 3203/12000 [12:16<33:05, 4.43it/s]
train loss:0.04881596524627132
27%|████████████████████▌ | 3204/12000 [12:16<33:27, 4.38it/s]
train loss:0.00413367353670594
27%|████████████████████▌ | 3205/12000 [12:16<33:52, 4.33it/s]
train loss:0.013944162996024707
27%|████████████████████▌ | 3206/12000 [12:16<33:50, 4.33it/s]
train loss:0.006143308647602156
27%|████████████████████▌ | 3207/12000 [12:17<33:28, 4.38it/s]
train loss:0.05519254517943493
27%|████████████████████▌ | 3208/12000 [12:17<33:13, 4.41it/s]
train loss:0.017484620160933266
27%|████████████████████▌ | 3209/12000 [12:17<33:14, 4.41it/s]
train loss:0.026821026912653992
27%|████████████████████▌ | 3210/12000 [12:17<33:16, 4.40it/s]
train loss:0.004545632033804243
27%|████████████████████▌ | 3211/12000 [12:18<33:22, 4.39it/s]
train loss:0.00933788698525115
27%|████████████████████▌ | 3212/12000 [12:18<32:52, 4.45it/s]
train loss:0.033866942711274065
27%|████████████████████▌ | 3213/12000 [12:18<33:03, 4.43it/s]
train loss:0.01622602837536209
27%|████████████████████▌ | 3214/12000 [12:18<33:06, 4.42it/s]
train loss:0.009052099972047114
27%|████████████████████▋ | 3215/12000 [12:18<33:06, 4.42it/s]
train loss:0.016424884052246
27%|████████████████████▋ | 3216/12000 [12:19<32:49, 4.46it/s]
train loss:0.03266656639174769
27%|████████████████████▋ | 3217/12000 [12:19<32:56, 4.44it/s]
train loss:0.00490392205624458
27%|████████████████████▋ | 3218/12000 [12:19<33:01, 4.43it/s]
train loss:0.00851620278924855
27%|████████████████████▋ | 3219/12000 [12:19<33:07, 4.42it/s]
train loss:0.03655016883787401
27%|████████████████████▋ | 3220/12000 [12:20<33:14, 4.40it/s]
train loss:0.0490871708453572
27%|████████████████████▋ | 3221/12000 [12:20<33:02, 4.43it/s]
train loss:0.03320107703487743
27%|████████████████████▋ | 3222/12000 [12:20<33:08, 4.41it/s]
train loss:0.008030065276115767
27%|████████████████████▋ | 3223/12000 [12:20<33:18, 4.39it/s]
train loss:0.009388969618823618
27%|████████████████████▋ | 3224/12000 [12:20<33:18, 4.39it/s]
train loss:0.03144368519748981
27%|████████████████████▋ | 3225/12000 [12:21<32:55, 4.44it/s]
train loss:0.02453631105875804
27%|████████████████████▋ | 3226/12000 [12:21<33:02, 4.43it/s]
train loss:0.020589470963079393
27%|████████████████████▋ | 3227/12000 [12:21<33:02, 4.42it/s]
train loss:0.029171813308120676
27%|████████████████████▋ | 3228/12000 [12:21<33:05, 4.42it/s]
train loss:0.018317298460400953
27%|████████████████████▋ | 3229/12000 [12:22<33:23, 4.38it/s]
train loss:0.03667038711351691
27%|████████████████████▋ | 3230/12000 [12:22<33:03, 4.42it/s]
train loss:0.003929173571222176
27%|████████████████████▋ | 3231/12000 [12:22<33:06, 4.42it/s]
train loss:0.03279375701890561
27%|████████████████████▋ | 3232/12000 [12:22<33:06, 4.41it/s]
train loss:0.004163174830984431
27%|████████████████████▋ | 3233/12000 [12:22<33:13, 4.40it/s]
train loss:0.016655552765677036
27%|████████████████████▊ | 3234/12000 [12:23<32:42, 4.47it/s]
train loss:0.012031771250120287
27%|████████████████████▊ | 3235/12000 [12:23<33:22, 4.38it/s]
train loss:0.018559641741872163
27%|████████████████████▊ | 3236/12000 [12:23<33:31, 4.36it/s]
train loss:0.04119030255649759
27%|████████████████████▊ | 3237/12000 [12:23<33:26, 4.37it/s]
train loss:0.010229728416547068
27%|████████████████████▊ | 3238/12000 [12:24<33:03, 4.42it/s]
train loss:0.029277431418648067
27%|████████████████████▊ | 3239/12000 [12:24<33:01, 4.42it/s]
train loss:0.012912695148835952
27%|████████████████████▊ | 3240/12000 [12:24<33:16, 4.39it/s]
train loss:0.006494825235424573
27%|████████████████████▊ | 3241/12000 [12:24<33:22, 4.37it/s]
train loss:0.01790884170965452
27%|████████████████████▊ | 3242/12000 [12:25<33:21, 4.38it/s]
train loss:0.002361479720985396
27%|████████████████████▊ | 3243/12000 [12:25<33:11, 4.40it/s]
train loss:0.02740908176450239
27%|████████████████████▊ | 3244/12000 [12:25<33:11, 4.40it/s]
train loss:0.04385565499603728
27%|████████████████████▊ | 3245/12000 [12:25<33:18, 4.38it/s]
train loss:0.02155678266077335
27%|████████████████████▊ | 3246/12000 [12:25<33:17, 4.38it/s]
train loss:0.0640152217901728
27%|████████████████████▊ | 3247/12000 [12:26<32:46, 4.45it/s]
train loss:0.021229307412102244
27%|████████████████████▊ | 3248/12000 [12:26<33:01, 4.42it/s]
train loss:0.0051529196045310595
27%|████████████████████▊ | 3249/12000 [12:26<33:12, 4.39it/s]
train loss:0.032495574896665644
27%|████████████████████▊ | 3250/12000 [12:26<33:11, 4.39it/s]
train loss:0.01835257501991102
27%|████████████████████▊ | 3251/12000 [12:27<33:10, 4.40it/s]
train loss:0.00732272489245468
27%|████████████████████▊ | 3252/12000 [12:27<33:02, 4.41it/s]
train loss:0.009544767180545796
27%|████████████████████▊ | 3253/12000 [12:27<33:11, 4.39it/s]
train loss:0.030155282558398146
27%|████████████████████▉ | 3254/12000 [12:27<33:11, 4.39it/s]
train loss:0.01632604804689661
27%|████████████████████▉ | 3255/12000 [12:28<33:26, 4.36it/s]
train loss:0.014205451754286296
27%|████████████████████▉ | 3256/12000 [12:28<35:16, 4.13it/s]
train loss:0.0452515773137858
27%|████████████████████▉ | 3257/12000 [12:28<34:44, 4.19it/s]
train loss:0.05579741679562275
27%|████████████████████▉ | 3258/12000 [12:28<34:17, 4.25it/s]
train loss:0.009136578722320963
27%|████████████████████▉ | 3259/12000 [12:28<33:54, 4.30it/s]
train loss:0.10132131210452122
27%|████████████████████▉ | 3260/12000 [12:29<33:23, 4.36it/s]
train loss:0.012927106142687298
27%|████████████████████▉ | 3261/12000 [12:29<33:17, 4.37it/s]
train loss:0.013916333294646558
27%|████████████████████▉ | 3262/12000 [12:29<33:32, 4.34it/s]
train loss:0.015063783860577105
27%|████████████████████▉ | 3263/12000 [12:29<33:42, 4.32it/s]
train loss:0.011378929790360582
27%|████████████████████▉ | 3264/12000 [12:30<33:36, 4.33it/s]
train loss:0.005353203697703393
27%|████████████████████▉ | 3265/12000 [12:30<33:20, 4.37it/s]
train loss:0.012124477468661996
27%|████████████████████▉ | 3266/12000 [12:30<33:18, 4.37it/s]
train loss:0.031321739543851736
27%|████████████████████▉ | 3267/12000 [12:30<34:02, 4.28it/s]
train loss:0.029701237870329394
27%|████████████████████▉ | 3268/12000 [12:31<33:45, 4.31it/s]
train loss:0.01973706486109164
27%|████████████████████▉ | 3269/12000 [12:31<33:15, 4.38it/s]
train loss:0.054575904281281555
27%|████████████████████▉ | 3270/12000 [12:31<33:24, 4.36it/s]
train loss:0.008980021051703759
27%|████████████████████▉ | 3271/12000 [12:31<33:20, 4.36it/s]
train loss:0.002855670317593646
27%|████████████████████▉ | 3272/12000 [12:31<33:15, 4.37it/s]
train loss:0.0200063933563012
27%|█████████████████████ | 3273/12000 [12:32<32:48, 4.43it/s]
train loss:0.009838136714831745
27%|█████████████████████ | 3274/12000 [12:32<32:51, 4.43it/s]
train loss:0.005157683683385821
27%|█████████████████████ | 3275/12000 [12:32<33:05, 4.40it/s]
train loss:0.028255474826187496
27%|█████████████████████ | 3276/12000 [12:32<33:07, 4.39it/s]
train loss:0.023960874037489203
27%|█████████████████████ | 3277/12000 [12:33<33:18, 4.36it/s]
train loss:0.02667008273864061
27%|█████████████████████ | 3278/12000 [12:33<33:00, 4.40it/s]
train loss:0.02153281055492825
27%|█████████████████████ | 3279/12000 [12:33<33:02, 4.40it/s]
train loss:0.02312618697936375
27%|█████████████████████ | 3280/12000 [12:33<33:04, 4.39it/s]
train loss:0.018535369124580647
27%|█████████████████████ | 3281/12000 [12:33<33:09, 4.38it/s]
train loss:0.012196540559712796
27%|█████████████████████ | 3282/12000 [12:34<32:39, 4.45it/s]
train loss:0.018849995946216967
27%|█████████████████████ | 3283/12000 [12:34<32:49, 4.43it/s]
train loss:0.03156564902686712
27%|█████████████████████ | 3284/12000 [12:34<32:51, 4.42it/s]
train loss:0.002245984226703897
27%|█████████████████████ | 3285/12000 [12:34<32:54, 4.41it/s]
train loss:0.004371841487718244
27%|█████████████████████ | 3286/12000 [12:35<32:49, 4.42it/s]
train loss:0.08418777103669299
27%|█████████████████████ | 3287/12000 [12:35<32:50, 4.42it/s]
train loss:0.01298489721880425
27%|█████████████████████ | 3288/12000 [12:35<32:58, 4.40it/s]
train loss:0.004455950109204665
27%|█████████████████████ | 3289/12000 [12:35<33:19, 4.36it/s]
train loss:0.003939528750887983
27%|█████████████████████ | 3290/12000 [12:36<33:26, 4.34it/s]
train loss:0.01648973113933794
27%|█████████████████████ | 3291/12000 [12:36<33:37, 4.32it/s]
train loss:0.08202742749086754
27%|█████████████████████ | 3292/12000 [12:36<33:56, 4.28it/s]
train loss:0.011741255460490919
27%|█████████████████████▏ | 3293/12000 [12:36<34:12, 4.24it/s]
train loss:0.011505751170774703
27%|█████████████████████▏ | 3294/12000 [12:36<34:05, 4.26it/s]
train loss:0.01253475964983728
27%|█████████████████████▏ | 3295/12000 [12:37<34:01, 4.26it/s]
train loss:0.014041956265761857
27%|█████████████████████▏ | 3296/12000 [12:37<33:53, 4.28it/s]
train loss:0.06419326360408721
27%|█████████████████████▏ | 3297/12000 [12:37<33:51, 4.28it/s]
train loss:0.020774801598212413
27%|█████████████████████▏ | 3298/12000 [12:37<33:32, 4.32it/s]
train loss:0.01584229426423488
27%|█████████████████████▏ | 3299/12000 [12:38<33:53, 4.28it/s]
train loss:0.0039056234406990055
28%|█████████████████████▏ | 3300/12000 [12:38<33:45, 4.30it/s]
train loss:0.014757550146887425
28%|█████████████████████▏ | 3301/12000 [12:38<33:28, 4.33it/s]
train loss:0.035796612354826965
28%|█████████████████████▏ | 3302/12000 [12:38<33:19, 4.35it/s]
train loss:0.013011129571181121
28%|█████████████████████▏ | 3303/12000 [12:39<33:23, 4.34it/s]
train loss:0.019402034197896573
28%|█████████████████████▏ | 3304/12000 [12:39<32:53, 4.41it/s]
train loss:0.009213445026373019
28%|█████████████████████▏ | 3305/12000 [12:39<33:00, 4.39it/s]
train loss:0.005443489912890533
28%|█████████████████████▏ | 3306/12000 [12:39<33:09, 4.37it/s]
train loss:0.008553028543937026
28%|█████████████████████▏ | 3307/12000 [12:39<33:07, 4.37it/s]
train loss:0.016589541947225932
28%|█████████████████████▏ | 3308/12000 [12:40<32:41, 4.43it/s]
train loss:0.022838701448212873
28%|█████████████████████▏ | 3309/12000 [12:40<32:43, 4.43it/s]
train loss:0.0028817645073433884
28%|█████████████████████▏ | 3310/12000 [12:40<32:48, 4.42it/s]
train loss:0.01997626975330923
28%|█████████████████████▏ | 3311/12000 [12:40<33:05, 4.38it/s]
train loss:0.055281261140890575
28%|█████████████████████▎ | 3312/12000 [12:41<32:55, 4.40it/s]
train loss:0.0606057494493161
28%|█████████████████████▎ | 3313/12000 [12:41<32:49, 4.41it/s]
train loss:0.015862155871613416
28%|█████████████████████▎ | 3314/12000 [12:41<32:55, 4.40it/s]
train loss:0.05700881124809249
28%|█████████████████████▎ | 3315/12000 [12:41<33:01, 4.38it/s]
train loss:0.04231681297927591
28%|█████████████████████▎ | 3316/12000 [12:42<33:02, 4.38it/s]
train loss:0.012235161553195577
28%|█████████████████████▎ | 3317/12000 [12:42<32:46, 4.42it/s]
train loss:0.025678945619335446
28%|█████████████████████▎ | 3318/12000 [12:42<32:48, 4.41it/s]
train loss:0.006480662421346503
28%|█████████████████████▎ | 3319/12000 [12:42<33:32, 4.31it/s]
train loss:0.027913337859360485
28%|█████████████████████▎ | 3320/12000 [12:42<33:20, 4.34it/s]
train loss:0.031185210879349345
28%|█████████████████████▎ | 3321/12000 [12:43<32:58, 4.39it/s]
train loss:0.024011324124017228
28%|█████████████████████▎ | 3322/12000 [12:43<33:18, 4.34it/s]
train loss:0.03745682437422177
28%|█████████████████████▎ | 3323/12000 [12:43<33:17, 4.34it/s]
train loss:0.00861956703855857
28%|█████████████████████▎ | 3324/12000 [12:43<33:12, 4.35it/s]
train loss:0.010452357311691222
28%|█████████████████████▎ | 3325/12000 [12:44<33:09, 4.36it/s]
train loss:0.005172558084675134
28%|█████████████████████▎ | 3326/12000 [12:44<32:46, 4.41it/s]
train loss:0.007546002454288449
28%|█████████████████████▎ | 3327/12000 [12:44<32:51, 4.40it/s]
train loss:0.009236991886407073
28%|█████████████████████▎ | 3328/12000 [12:44<32:51, 4.40it/s]
train loss:0.04885296899930398
28%|█████████████████████▎ | 3329/12000 [12:44<32:50, 4.40it/s]
train loss:0.031069123050792954
28%|█████████████████████▎ | 3330/12000 [12:45<32:26, 4.45it/s]
train loss:0.018509593733554222
28%|█████████████████████▎ | 3331/12000 [12:45<32:32, 4.44it/s]
train loss:0.004727268194466017
28%|█████████████████████▍ | 3332/12000 [12:45<32:37, 4.43it/s]
train loss:0.016321678636651068
28%|█████████████████████▍ | 3333/12000 [12:45<32:39, 4.42it/s]
train loss:0.026561780193034235
28%|█████████████████████▍ | 3334/12000 [12:46<32:31, 4.44it/s]
train loss:0.013295040736747756
28%|█████████████████████▍ | 3335/12000 [12:46<32:30, 4.44it/s]
train loss:0.004168323919523944
28%|█████████████████████▍ | 3336/12000 [12:46<32:35, 4.43it/s]
train loss:0.030132989797291922
28%|█████████████████████▍ | 3337/12000 [12:46<32:40, 4.42it/s]
train loss:0.03019692073465379
28%|█████████████████████▍ | 3338/12000 [12:47<32:45, 4.41it/s]
train loss:0.017323001854436085
28%|█████████████████████▍ | 3339/12000 [12:47<32:19, 4.47it/s]
train loss:0.005628236623477438
28%|█████████████████████▍ | 3340/12000 [12:47<32:29, 4.44it/s]
train loss:0.012467780669677271
28%|█████████████████████▍ | 3341/12000 [12:47<32:45, 4.41it/s]
train loss:0.024013923172290723
28%|█████████████████████▍ | 3342/12000 [12:47<33:34, 4.30it/s]
train loss:0.013791563147511333
28%|█████████████████████▍ | 3343/12000 [12:48<33:06, 4.36it/s]
train loss:0.00817858882157451
28%|█████████████████████▍ | 3344/12000 [12:48<33:03, 4.36it/s]
train loss:0.036234870403821624
28%|█████████████████████▍ | 3345/12000 [12:48<33:14, 4.34it/s]
train loss:0.014337025164099897
28%|█████████████████████▍ | 3346/12000 [12:48<33:10, 4.35it/s]
train loss:0.01917634444641323
28%|█████████████████████▍ | 3347/12000 [12:49<33:06, 4.36it/s]
train loss:0.005246553274555712
28%|█████████████████████▍ | 3348/12000 [12:49<32:42, 4.41it/s]
train loss:0.03267431128485087
28%|█████████████████████▍ | 3349/12000 [12:49<32:44, 4.40it/s]
train loss:0.07980580018704408
28%|█████████████████████▍ | 3350/12000 [12:49<32:57, 4.37it/s]
train loss:0.1586682257901988
28%|█████████████████████▌ | 3351/12000 [12:49<32:56, 4.38it/s]
train loss:0.015343544311987076
28%|█████████████████████▌ | 3352/12000 [12:50<32:51, 4.39it/s]
train loss:0.008593350186458645
28%|█████████████████████▌ | 3353/12000 [12:50<33:05, 4.36it/s]
train loss:0.03299224695919363
28%|█████████████████████▌ | 3354/12000 [12:50<33:04, 4.36it/s]
train loss:0.018377467499942367
28%|█████████████████████▌ | 3355/12000 [12:50<32:56, 4.37it/s]
train loss:0.044510499238007456
28%|█████████████████████▌ | 3356/12000 [12:51<32:52, 4.38it/s]
train loss:0.033785785384901304
28%|█████████████████████▌ | 3357/12000 [12:51<32:40, 4.41it/s]
train loss:0.008104984015583737
28%|█████████████████████▌ | 3358/12000 [12:51<32:44, 4.40it/s]
train loss:0.011010843626523315
28%|█████████████████████▌ | 3359/12000 [12:51<32:46, 4.39it/s]
train loss:0.026612792204563217
28%|█████████████████████▌ | 3360/12000 [12:52<32:53, 4.38it/s]
train loss:0.07755065481891892
28%|█████████████████████▌ | 3361/12000 [12:52<32:27, 4.44it/s]
train loss:0.002801558356635303
28%|█████████████████████▌ | 3362/12000 [12:52<32:33, 4.42it/s]
train loss:0.00731539446042961
28%|█████████████████████▌ | 3363/12000 [12:52<32:44, 4.40it/s]
train loss:0.06856517854869933
28%|█████████████████████▌ | 3364/12000 [12:52<32:56, 4.37it/s]
train loss:0.0076199127739555025
28%|█████████████████████▌ | 3365/12000 [12:53<32:29, 4.43it/s]
train loss:0.054936504625403754
28%|█████████████████████▌ | 3366/12000 [12:53<32:28, 4.43it/s]
train loss:0.006775309332003166
28%|█████████████████████▌ | 3367/12000 [12:53<32:31, 4.42it/s]
train loss:0.006215177878069333
28%|█████████████████████▌ | 3368/12000 [12:53<32:31, 4.42it/s]
train loss:0.04587160174614887
28%|█████████████████████▌ | 3369/12000 [12:54<32:41, 4.40it/s]
train loss:0.01476773143136338
28%|█████████████████████▌ | 3370/12000 [12:54<32:27, 4.43it/s]
train loss:0.00925227484028952
28%|█████████████████████▋ | 3371/12000 [12:54<32:33, 4.42it/s]
train loss:0.007158768345258024
28%|█████████████████████▋ | 3372/12000 [12:54<32:34, 4.41it/s]
train loss:0.018245775469578677
28%|█████████████████████▋ | 3373/12000 [12:54<32:35, 4.41it/s]
train loss:0.018407335203924274
28%|█████████████████████▋ | 3374/12000 [12:55<32:16, 4.45it/s]
train loss:0.010767657330731812
28%|█████████████████████▋ | 3375/12000 [12:55<32:21, 4.44it/s]
train loss:0.011029637082669892
28%|█████████████████████▋ | 3376/12000 [12:55<32:28, 4.43it/s]
train loss:0.039905282603780165
28%|█████████████████████▋ | 3377/12000 [12:55<32:28, 4.42it/s]
train loss:0.004220197373283007
28%|█████████████████████▋ | 3378/12000 [12:56<32:22, 4.44it/s]
train loss:0.012803756994764387
28%|█████████████████████▋ | 3379/12000 [12:56<32:17, 4.45it/s]
train loss:0.023197414928879004
28%|█████████████████████▋ | 3380/12000 [12:56<32:21, 4.44it/s]
train loss:0.004668323817986655
28%|█████████████████████▋ | 3381/12000 [12:56<32:24, 4.43it/s]
train loss:0.016698520949282463
28%|█████████████████████▋ | 3382/12000 [12:57<32:31, 4.42it/s]
train loss:0.0029523065622315114
28%|█████████████████████▋ | 3383/12000 [12:57<32:12, 4.46it/s]
train loss:0.029927665991896116
28%|█████████████████████▋ | 3384/12000 [12:57<32:17, 4.45it/s]
train loss:0.013528397326249888
28%|█████████████████████▋ | 3385/12000 [12:57<32:23, 4.43it/s]
train loss:0.013824816348083144
28%|█████████████████████▋ | 3386/12000 [12:57<32:27, 4.42it/s]
train loss:0.04896115964945137
28%|█████████████████████▋ | 3387/12000 [12:58<32:18, 4.44it/s]
train loss:0.015880924081769398
28%|█████████████████████▋ | 3388/12000 [12:58<32:14, 4.45it/s]
train loss:0.025121630226023962
28%|█████████████████████▋ | 3389/12000 [12:58<32:23, 4.43it/s]
train loss:0.025491622145038466
28%|█████████████████████▊ | 3390/12000 [12:58<32:25, 4.43it/s]
train loss:0.00559544749617571
28%|█████████████████████▊ | 3391/12000 [12:59<32:31, 4.41it/s]
train loss:0.027078362731613986
28%|█████████████████████▊ | 3392/12000 [12:59<32:20, 4.44it/s]
train loss:0.011838899639087295
28%|█████████████████████▊ | 3393/12000 [12:59<32:27, 4.42it/s]
train loss:0.08321120235259138
28%|█████████████████████▊ | 3394/12000 [12:59<32:36, 4.40it/s]
train loss:0.00948206063935319
28%|█████████████████████▊ | 3395/12000 [12:59<32:36, 4.40it/s]
train loss:0.010341771549063019
28%|█████████████████████▊ | 3396/12000 [13:00<32:10, 4.46it/s]
train loss:0.026973468374300036
28%|█████████████████████▊ | 3397/12000 [13:00<32:15, 4.45it/s]
train loss:0.022777919058941543
28%|█████████████████████▊ | 3398/12000 [13:00<32:28, 4.41it/s]
train loss:0.01469689558212328
28%|█████████████████████▊ | 3399/12000 [13:00<32:31, 4.41it/s]
train loss:0.02408280846741069
28%|█████████████████████▊ | 3400/12000 [13:01<32:26, 4.42it/s]
train loss:0.0038237376803288248
28%|█████████████████████▊ | 3401/12000 [13:01<32:04, 4.47it/s]
train loss:0.006252040097839175
28%|█████████████████████▊ | 3402/12000 [13:01<32:15, 4.44it/s]
train loss:0.0924986524120997
28%|█████████████████████▊ | 3403/12000 [13:01<32:22, 4.43it/s]
train loss:0.03165714349359258
28%|█████████████████████▊ | 3404/12000 [13:01<32:28, 4.41it/s]
train loss:0.010073642886678018
28%|█████████████████████▊ | 3405/12000 [13:02<32:07, 4.46it/s]
train loss:0.02885108660836122
28%|█████████████████████▊ | 3406/12000 [13:02<32:16, 4.44it/s]
train loss:0.008436413877128788
28%|█████████████████████▊ | 3407/12000 [13:02<32:18, 4.43it/s]
train loss:0.04469686467354131
28%|█████████████████████▊ | 3408/12000 [13:02<32:19, 4.43it/s]
train loss:0.01204383498466668
28%|█████████████████████▊ | 3409/12000 [13:03<32:11, 4.45it/s]
train loss:0.07308883110575964
28%|█████████████████████▉ | 3410/12000 [13:03<32:05, 4.46it/s]
train loss:0.023600571840008827
28%|█████████████████████▉ | 3411/12000 [13:03<32:13, 4.44it/s]
train loss:0.06174439311487975
28%|█████████████████████▉ | 3412/12000 [13:03<32:16, 4.43it/s]
train loss:0.04291407295997121
28%|█████████████████████▉ | 3413/12000 [13:04<32:22, 4.42it/s]
train loss:0.0071209201560198864
28%|█████████████████████▉ | 3414/12000 [13:04<32:04, 4.46it/s]
train loss:0.007237307586475561
28%|█████████████████████▉ | 3415/12000 [13:04<32:11, 4.45it/s]
train loss:0.054307193808581955
28%|█████████████████████▉ | 3416/12000 [13:04<32:18, 4.43it/s]
train loss:0.017714389940460595
28%|█████████████████████▉ | 3417/12000 [13:04<32:20, 4.42it/s]
train loss:0.01086120156388708
28%|█████████████████████▉ | 3418/12000 [13:05<32:10, 4.44it/s]
train loss:0.013453062870603473
28%|█████████████████████▉ | 3419/12000 [13:05<32:07, 4.45it/s]
train loss:0.03562213616430745
28%|█████████████████████▉ | 3420/12000 [13:05<32:13, 4.44it/s]
train loss:0.005584853280979998
29%|█████████████████████▉ | 3421/12000 [13:05<32:22, 4.42it/s]
train loss:0.01611389854109858
29%|█████████████████████▉ | 3422/12000 [13:06<32:26, 4.41it/s]
train loss:0.021322445356238253
29%|█████████████████████▉ | 3423/12000 [13:06<32:07, 4.45it/s]
train loss:0.009402175996724443
29%|█████████████████████▉ | 3424/12000 [13:06<32:16, 4.43it/s]
train loss:0.00544708722096297
29%|█████████████████████▉ | 3425/12000 [13:06<32:20, 4.42it/s]
train loss:0.04075934158621692
29%|█████████████████████▉ | 3426/12000 [13:06<32:21, 4.42it/s]
train loss:0.04522637803506344
29%|█████████████████████▉ | 3427/12000 [13:07<32:01, 4.46it/s]
train loss:0.04144459350369438
29%|█████████████████████▉ | 3428/12000 [13:07<32:06, 4.45it/s]
train loss:0.005544691632748724
29%|██████████████████████ | 3429/12000 [13:07<32:33, 4.39it/s]
train loss:0.026296635161499465
29%|██████████████████████ | 3430/12000 [13:07<32:39, 4.37it/s]
train loss:0.00506522393139583
29%|██████████████████████ | 3431/12000 [13:08<32:34, 4.38it/s]
train loss:0.0027744234893303478
29%|██████████████████████ | 3432/12000 [13:08<32:13, 4.43it/s]
train loss:0.004944341517481278
29%|██████████████████████ | 3433/12000 [13:08<32:26, 4.40it/s]
train loss:0.0007732458982208267
29%|██████████████████████ | 3434/12000 [13:08<32:35, 4.38it/s]
train loss:0.02956869488634005
29%|██████████████████████ | 3435/12000 [13:08<32:44, 4.36it/s]
train loss:0.052687568392874085
29%|██████████████████████ | 3436/12000 [13:09<32:16, 4.42it/s]
train loss:0.007361397947183879
29%|██████████████████████ | 3437/12000 [13:09<32:18, 4.42it/s]
train loss:0.008199073393820646
29%|██████████████████████ | 3438/12000 [13:09<32:26, 4.40it/s]
train loss:0.021411759733731713
29%|██████████████████████ | 3439/12000 [13:09<32:24, 4.40it/s]
train loss:0.004025856304549765
29%|██████████████████████ | 3440/12000 [13:10<32:14, 4.42it/s]
train loss:0.010989197956114409
29%|██████████████████████ | 3441/12000 [13:10<32:18, 4.41it/s]
train loss:0.005505493280411608
29%|██████████████████████ | 3442/12000 [13:10<32:25, 4.40it/s]
train loss:0.005370647180463884
29%|██████████████████████ | 3443/12000 [13:10<32:46, 4.35it/s]
train loss:0.00642444450765038
29%|██████████████████████ | 3444/12000 [13:11<32:41, 4.36it/s]
train loss:0.026205493381557962
29%|██████████████████████ | 3445/12000 [13:11<32:24, 4.40it/s]
train loss:0.007458422014715278
29%|██████████████████████ | 3446/12000 [13:11<32:44, 4.36it/s]
train loss:0.009205736712825756
29%|██████████████████████ | 3447/12000 [13:11<32:58, 4.32it/s]
train loss:0.009660121521960295
29%|██████████████████████ | 3448/12000 [13:11<32:48, 4.34it/s]
train loss:0.005737459127407615
29%|██████████████████████▏ | 3449/12000 [13:12<32:20, 4.41it/s]
train loss:0.03201672560665859
29%|██████████████████████▏ | 3450/12000 [13:12<32:23, 4.40it/s]
train loss:0.005334728450964137
29%|██████████████████████▏ | 3451/12000 [13:12<32:29, 4.38it/s]
train loss:0.03302077575278129
29%|██████████████████████▏ | 3452/12000 [13:12<32:27, 4.39it/s]
train loss:0.04063060175216122
29%|██████████████████████▏ | 3453/12000 [13:13<32:26, 4.39it/s]
train loss:0.020657243022249583
29%|██████████████████████▏ | 3454/12000 [13:13<32:23, 4.40it/s]
train loss:0.026664423918078602
29%|██████████████████████▏ | 3455/12000 [13:13<32:27, 4.39it/s]
train loss:0.008168122154058134
29%|██████████████████████▏ | 3456/12000 [13:13<32:33, 4.37it/s]
train loss:0.008851360013035051
29%|██████████████████████▏ | 3457/12000 [13:14<32:33, 4.37it/s]
train loss:0.04539918336422482
29%|██████████████████████▏ | 3458/12000 [13:14<32:11, 4.42it/s]
train loss:0.01393849213434731
29%|██████████████████████▏ | 3459/12000 [13:14<32:15, 4.41it/s]
train loss:0.004239267118131931
29%|██████████████████████▏ | 3460/12000 [13:14<32:57, 4.32it/s]
train loss:0.02113061526595956
29%|██████████████████████▏ | 3461/12000 [13:14<32:58, 4.32it/s]
train loss:0.05369633299278311
29%|██████████████████████▏ | 3462/12000 [13:15<32:25, 4.39it/s]
train loss:0.00964719076578059
29%|██████████████████████▏ | 3463/12000 [13:15<32:24, 4.39it/s]
train loss:0.02423363709442077
29%|██████████████████████▏ | 3464/12000 [13:15<32:20, 4.40it/s]
train loss:0.0697119531213057
29%|██████████████████████▏ | 3465/12000 [13:15<32:30, 4.38it/s]
train loss:0.05116540707534787
29%|██████████████████████▏ | 3466/12000 [13:16<32:17, 4.40it/s]
train loss:0.050862386987413244
29%|██████████████████████▏ | 3467/12000 [13:16<32:10, 4.42it/s]
train loss:0.03578958835959558
29%|██████████████████████▎ | 3468/12000 [13:16<32:28, 4.38it/s]
train loss:0.0020389810071265967
29%|██████████████████████▎ | 3469/12000 [13:16<32:25, 4.38it/s]
train loss:0.019373780154539354
29%|██████████████████████▎ | 3470/12000 [13:16<32:19, 4.40it/s]
train loss:0.014381069508151934
29%|██████████████████████▎ | 3471/12000 [13:17<32:47, 4.34it/s]
train loss:0.004873129931553845
29%|██████████████████████▎ | 3472/12000 [13:17<32:38, 4.35it/s]
train loss:0.01439683595213556
29%|██████████████████████▎ | 3473/12000 [13:17<32:33, 4.37it/s]
train loss:0.01512373971265943
29%|██████████████████████▎ | 3474/12000 [13:17<32:35, 4.36it/s]
train loss:0.028827083679071025
29%|██████████████████████▎ | 3475/12000 [13:18<32:33, 4.36it/s]
train loss:0.023191060698008706
29%|██████████████████████▎ | 3476/12000 [13:18<32:10, 4.42it/s]
train loss:0.006217361031483762
29%|██████████████████████▎ | 3477/12000 [13:18<32:21, 4.39it/s]
train loss:0.017088290236677586
29%|██████████████████████▎ | 3478/12000 [13:18<32:30, 4.37it/s]
train loss:0.018850877672993687
29%|██████████████████████▎ | 3479/12000 [13:19<32:39, 4.35it/s]
train loss:0.024671976713159936
29%|██████████████████████▎ | 3480/12000 [13:19<32:03, 4.43it/s]
train loss:0.01786273497853498
29%|██████████████████████▎ | 3481/12000 [13:19<32:19, 4.39it/s]
train loss:0.02384380932769797
29%|██████████████████████▎ | 3482/12000 [13:19<32:16, 4.40it/s]
train loss:0.009648110697505027
29%|██████████████████████▎ | 3483/12000 [13:19<32:27, 4.37it/s]
train loss:0.04241800027925646
29%|██████████████████████▎ | 3484/12000 [13:20<32:34, 4.36it/s]
train loss:0.024911623299989482
29%|██████████████████████▎ | 3485/12000 [13:20<32:23, 4.38it/s]
train loss:0.02204189775251481
29%|██████████████████████▎ | 3486/12000 [13:20<32:28, 4.37it/s]
train loss:0.009131216028267549
29%|██████████████████████▎ | 3487/12000 [13:20<32:39, 4.34it/s]
train loss:0.024268448585177547
29%|██████████████████████▍ | 3488/12000 [13:21<32:43, 4.33it/s]
train loss:0.026889523206744453
29%|██████████████████████▍ | 3489/12000 [13:21<32:26, 4.37it/s]
train loss:0.005416825418842312
29%|██████████████████████▍ | 3490/12000 [13:21<32:21, 4.38it/s]
train loss:0.03818947885003241
29%|██████████████████████▍ | 3491/12000 [13:21<32:31, 4.36it/s]
train loss:0.00993255422271957
29%|██████████████████████▍ | 3492/12000 [13:21<32:31, 4.36it/s]
train loss:0.010173003801618102
29%|██████████████████████▍ | 3493/12000 [13:22<32:03, 4.42it/s]
train loss:0.0296485575991953
29%|██████████████████████▍ | 3494/12000 [13:22<32:16, 4.39it/s]
train loss:0.0074183347647852485
29%|██████████████████████▍ | 3495/12000 [13:22<32:18, 4.39it/s]
train loss:0.0024811121200670173
29%|██████████████████████▍ | 3496/12000 [13:22<32:12, 4.40it/s]
train loss:0.01789183011771027
29%|██████████████████████▍ | 3497/12000 [13:23<32:02, 4.42it/s]
train loss:0.004026992871160273
29%|██████████████████████▍ | 3498/12000 [13:23<31:59, 4.43it/s]
train loss:0.032107824759699574
29%|██████████████████████▍ | 3499/12000 [13:23<32:05, 4.41it/s]
train loss:0.020933307637734436
29%|██████████████████████▍ | 3500/12000 [13:23<32:15, 4.39it/s]
train loss:0.003328830848414021
29%|██████████████████████▍ | 3501/12000 [13:24<32:22, 4.38it/s]
train loss:0.009568810959640644
29%|██████████████████████▍ | 3502/12000 [13:24<32:07, 4.41it/s]
train loss:0.023505601503597137
29%|██████████████████████▍ | 3503/12000 [13:24<32:16, 4.39it/s]
train loss:0.00952675005619827
29%|██████████████████████▍ | 3504/12000 [13:24<32:34, 4.35it/s]
train loss:0.03324222817566189
29%|██████████████████████▍ | 3505/12000 [13:24<32:32, 4.35it/s]
train loss:0.030641180421403055
29%|██████████████████████▍ | 3506/12000 [13:25<33:25, 4.23it/s]
train loss:0.010990650125814355
29%|██████████████████████▌ | 3507/12000 [13:25<33:03, 4.28it/s]
train loss:0.014229202028244077
29%|██████████████████████▌ | 3508/12000 [13:25<33:24, 4.24it/s]
train loss:0.0036269626815507816
29%|██████████████████████▌ | 3509/12000 [13:25<33:20, 4.24it/s]
train loss:0.017564542346289028
29%|██████████████████████▌ | 3510/12000 [13:26<32:38, 4.33it/s]
train loss:0.010744679070988559
29%|██████████████████████▌ | 3511/12000 [13:26<32:25, 4.36it/s]
train loss:0.029310004758948162
29%|██████████████████████▌ | 3512/12000 [13:26<32:16, 4.38it/s]
train loss:0.0076026012730498315
29%|██████████████████████▌ | 3513/12000 [13:26<32:34, 4.34it/s]
train loss:0.03737304680039613
29%|██████████████████████▌ | 3514/12000 [13:27<32:32, 4.35it/s]
train loss:0.028522201922134817
29%|██████████████████████▌ | 3515/12000 [13:27<32:01, 4.42it/s]
train loss:0.0031465888797520126
29%|██████████████████████▌ | 3516/12000 [13:27<32:12, 4.39it/s]
train loss:0.012854792124503292
29%|██████████████████████▌ | 3517/12000 [13:27<32:07, 4.40it/s]
train loss:0.00889074930448405
29%|██████████████████████▌ | 3518/12000 [13:27<32:09, 4.40it/s]
train loss:0.012582901693938425
29%|██████████████████████▌ | 3519/12000 [13:28<31:46, 4.45it/s]
train loss:0.04467046889187715
29%|██████████████████████▌ | 3520/12000 [13:28<31:50, 4.44it/s]
train loss:0.02422329665394139
29%|██████████████████████▌ | 3521/12000 [13:28<31:56, 4.42it/s]
train loss:0.012349762150989487
29%|██████████████████████▌ | 3522/12000 [13:28<31:56, 4.42it/s]
train loss:0.03625974813049695
29%|██████████████████████▌ | 3523/12000 [13:29<31:59, 4.42it/s]
train loss:0.05066625262536023
29%|██████████████████████▌ | 3524/12000 [13:29<31:39, 4.46it/s]
train loss:0.025769203531054698
29%|██████████████████████▌ | 3525/12000 [13:29<31:46, 4.44it/s]
train loss:0.01521642612076545
29%|██████████████████████▋ | 3526/12000 [13:29<31:58, 4.42it/s]
train loss:0.004451575671137727
29%|██████████████████████▋ | 3527/12000 [13:29<32:06, 4.40it/s]
train loss:0.006654184722276175
29%|██████████████████████▋ | 3528/12000 [13:30<31:51, 4.43it/s]
train loss:0.02756243878171827
29%|██████████████████████▋ | 3529/12000 [13:30<32:40, 4.32it/s]
train loss:0.0019110479261623323
29%|██████████████████████▋ | 3530/12000 [13:30<32:29, 4.34it/s]
train loss:0.05409829681001552
29%|██████████████████████▋ | 3531/12000 [13:30<32:21, 4.36it/s]
train loss:0.02428360277237616
29%|██████████████████████▋ | 3532/12000 [13:31<32:05, 4.40it/s]
train loss:0.007201863259221892
29%|██████████████████████▋ | 3533/12000 [13:31<32:01, 4.41it/s]
train loss:0.018603345759378408
29%|██████████████████████▋ | 3534/12000 [13:31<32:01, 4.41it/s]
train loss:0.01498997881063487
29%|██████████████████████▋ | 3535/12000 [13:31<32:22, 4.36it/s]
train loss:0.002466279378493793
29%|██████████████████████▋ | 3536/12000 [13:32<32:26, 4.35it/s]
train loss:0.016807643060301716
29%|██████████████████████▋ | 3537/12000 [13:32<32:10, 4.38it/s]
train loss:0.04305370054155142
29%|██████████████████████▋ | 3538/12000 [13:32<32:13, 4.38it/s]
train loss:0.010666437114167284
29%|██████████████████████▋ | 3539/12000 [13:32<32:07, 4.39it/s]
train loss:0.003842720711954531
30%|██████████████████████▋ | 3540/12000 [13:32<32:05, 4.39it/s]
train loss:0.004487030155193656
30%|██████████████████████▋ | 3541/12000 [13:33<31:38, 4.46it/s]
train loss:0.011485741139813217
30%|██████████████████████▋ | 3542/12000 [13:33<31:49, 4.43it/s]
train loss:0.015357405137011637
30%|██████████████████████▋ | 3543/12000 [13:33<31:57, 4.41it/s]
train loss:0.0384888017654481
30%|██████████████████████▋ | 3544/12000 [13:33<31:58, 4.41it/s]
train loss:0.025790522296952872
30%|██████████████████████▋ | 3545/12000 [13:34<32:37, 4.32it/s]
train loss:0.006613130558124961
30%|██████████████████████▊ | 3546/12000 [13:34<32:24, 4.35it/s]
train loss:0.0226284636816873
30%|██████████████████████▊ | 3547/12000 [13:34<32:16, 4.37it/s]
train loss:0.007432202838500276
30%|██████████████████████▊ | 3548/12000 [13:34<32:10, 4.38it/s]
train loss:0.020730159373162086
30%|██████████████████████▊ | 3549/12000 [13:35<32:13, 4.37it/s]
train loss:0.021690382543490663
30%|██████████████████████▊ | 3550/12000 [13:35<31:55, 4.41it/s]
train loss:0.017204554860559627
30%|██████████████████████▊ | 3551/12000 [13:35<31:58, 4.40it/s]
train loss:0.01394885323415011
30%|██████████████████████▊ | 3552/12000 [13:35<32:04, 4.39it/s]
train loss:0.03848843900900527
30%|██████████████████████▊ | 3553/12000 [13:35<32:06, 4.39it/s]
train loss:0.023788452926229622
30%|██████████████████████▊ | 3554/12000 [13:36<31:47, 4.43it/s]
train loss:0.020038180831934232
30%|██████████████████████▊ | 3555/12000 [13:36<31:48, 4.43it/s]
train loss:0.005496412316732935
30%|██████████████████████▊ | 3556/12000 [13:36<31:48, 4.42it/s]
train loss:0.01703446542496513
30%|██████████████████████▊ | 3557/12000 [13:36<31:55, 4.41it/s]
train loss:0.008160375258312895
30%|██████████████████████▊ | 3558/12000 [13:37<31:58, 4.40it/s]
train loss:0.0029231702908175793
30%|██████████████████████▊ | 3559/12000 [13:37<31:54, 4.41it/s]
train loss:0.005046923324880219
30%|██████████████████████▊ | 3560/12000 [13:37<31:51, 4.41it/s]
train loss:0.006643272899177104
30%|██████████████████████▊ | 3561/12000 [13:37<31:52, 4.41it/s]
train loss:0.012582246372268749
30%|██████████████████████▊ | 3562/12000 [13:37<31:52, 4.41it/s]
train loss:0.004942085880887216
30%|██████████████████████▊ | 3563/12000 [13:38<31:35, 4.45it/s]
train loss:0.017536666244693137
30%|██████████████████████▊ | 3564/12000 [13:38<31:42, 4.43it/s]
train loss:0.017286776628924742
30%|██████████████████████▉ | 3565/12000 [13:38<31:44, 4.43it/s]
train loss:0.009391819340216045
30%|██████████████████████▉ | 3566/12000 [13:38<31:49, 4.42it/s]
train loss:0.010701877188114479
30%|██████████████████████▉ | 3567/12000 [13:39<31:44, 4.43it/s]
train loss:0.010635563432166826
30%|██████████████████████▉ | 3568/12000 [13:39<31:26, 4.47it/s]
train loss:0.008761111022268744
30%|██████████████████████▉ | 3569/12000 [13:39<31:34, 4.45it/s]
train loss:0.019758321908351945
30%|██████████████████████▉ | 3570/12000 [13:39<31:36, 4.44it/s]
train loss:0.04189431307241657
30%|██████████████████████▉ | 3571/12000 [13:39<32:07, 4.37it/s]
train loss:0.10505075124620473
30%|██████████████████████▉ | 3572/12000 [13:40<31:46, 4.42it/s]
train loss:0.035547611189498604
30%|██████████████████████▉ | 3573/12000 [13:40<31:55, 4.40it/s]
train loss:0.010006589350941597
30%|██████████████████████▉ | 3574/12000 [13:40<32:34, 4.31it/s]
train loss:0.09167904938870568
30%|██████████████████████▉ | 3575/12000 [13:40<32:24, 4.33it/s]
train loss:0.015176368572233003
30%|██████████████████████▉ | 3576/12000 [13:41<32:15, 4.35it/s]
train loss:0.00542640717635835
30%|██████████████████████▉ | 3577/12000 [13:41<32:00, 4.39it/s]
train loss:0.0132770053769684
30%|██████████████████████▉ | 3578/12000 [13:41<31:56, 4.39it/s]
train loss:0.018017524992544783
30%|██████████████████████▉ | 3579/12000 [13:41<31:58, 4.39it/s]
train loss:0.022318164758702044
30%|██████████████████████▉ | 3580/12000 [13:42<31:59, 4.39it/s]
train loss:0.06979472417904563
30%|██████████████████████▉ | 3581/12000 [13:42<31:40, 4.43it/s]
train loss:0.0072364729238916506
30%|██████████████████████▉ | 3582/12000 [13:42<31:44, 4.42it/s]
train loss:0.04817315955770792
30%|██████████████████████▉ | 3583/12000 [13:42<31:56, 4.39it/s]
train loss:0.06200415234975179
30%|██████████████████████▉ | 3584/12000 [13:42<32:00, 4.38it/s]
train loss:0.010168436378700912
30%|███████████████████████ | 3585/12000 [13:43<32:23, 4.33it/s]
train loss:0.010006730426145043
30%|███████████████████████ | 3586/12000 [13:43<32:12, 4.35it/s]
train loss:0.008731409663154445
30%|███████████████████████ | 3587/12000 [13:43<32:06, 4.37it/s]
train loss:0.034490453994550224
30%|███████████████████████ | 3588/12000 [13:43<32:02, 4.37it/s]
train loss:0.021607144849507022
30%|███████████████████████ | 3589/12000 [13:44<31:59, 4.38it/s]
train loss:0.005406425425590623
30%|███████████████████████ | 3590/12000 [13:44<31:51, 4.40it/s]
train loss:0.005875131460950132
30%|███████████████████████ | 3591/12000 [13:44<31:47, 4.41it/s]
train loss:0.046496937289652526
30%|███████████████████████ | 3592/12000 [13:44<31:48, 4.41it/s]
train loss:0.0059304346536926
30%|███████████████████████ | 3593/12000 [13:45<31:48, 4.41it/s]
train loss:0.00809027815742934
30%|███████████████████████ | 3594/12000 [13:45<31:21, 4.47it/s]
train loss:0.009488168305154357
30%|███████████████████████ | 3595/12000 [13:45<31:27, 4.45it/s]
train loss:0.002892432903196633
30%|███████████████████████ | 3596/12000 [13:45<31:34, 4.44it/s]
train loss:0.013022687548375463
30%|███████████████████████ | 3597/12000 [13:45<31:37, 4.43it/s]
train loss:0.0296806608788885
30%|███████████████████████ | 3598/12000 [13:46<31:29, 4.45it/s]
train loss:0.005434885146476973
30%|███████████████████████ | 3599/12000 [13:46<31:31, 4.44it/s]
train loss:0.01683683579081669
30%|███████████████████████ | 3600/12000 [13:46<31:37, 4.43it/s]
train loss:0.021463197510314745 train loss:0.015109565464467093
30%|██████████████████████▌ | 3601/12000 [13:48<1:37:33, 1.43it/s]
=== epoch:7, train acc:0.99, test acc:0.986 ===
30%|██████████████████████▌ | 3602/12000 [13:48<1:18:09, 1.79it/s]
train loss:0.05147473924585398
30%|██████████████████████▌ | 3603/12000 [13:48<1:04:18, 2.18it/s]
train loss:0.012403404725259462
30%|███████████████████████▏ | 3604/12000 [13:49<54:35, 2.56it/s]
train loss:0.009819256572059282
30%|███████████████████████▏ | 3605/12000 [13:49<47:34, 2.94it/s]
train loss:0.0020908192039092157
30%|███████████████████████▏ | 3606/12000 [13:49<42:49, 3.27it/s]
train loss:0.005033926432099734
30%|███████████████████████▏ | 3607/12000 [13:49<39:32, 3.54it/s]
train loss:0.023635082425966725
30%|███████████████████████▏ | 3608/12000 [13:49<37:28, 3.73it/s]
train loss:0.034381538340566516
30%|███████████████████████▏ | 3609/12000 [13:50<35:24, 3.95it/s]
train loss:0.009322530320006525
30%|███████████████████████▏ | 3610/12000 [13:50<34:21, 4.07it/s]
train loss:0.04254242484204988
30%|███████████████████████▏ | 3611/12000 [13:50<33:35, 4.16it/s]
train loss:0.009757407299735543
30%|███████████████████████▏ | 3612/12000 [13:50<33:00, 4.24it/s]
train loss:0.04913953475540206
30%|███████████████████████▏ | 3613/12000 [13:51<32:28, 4.30it/s]
train loss:0.03611015907183382
30%|███████████████████████▏ | 3614/12000 [13:51<32:08, 4.35it/s]
train loss:0.012822218314145772
30%|███████████████████████▏ | 3615/12000 [13:51<31:59, 4.37it/s]
train loss:0.019766088681959927
30%|███████████████████████▏ | 3616/12000 [13:51<32:13, 4.34it/s]
train loss:0.03293786210169549
30%|███████████████████████▏ | 3617/12000 [13:52<32:12, 4.34it/s]
train loss:0.04904844311685253
30%|███████████████████████▏ | 3618/12000 [13:52<31:42, 4.41it/s]
train loss:0.01703839416056871
30%|███████████████████████▏ | 3619/12000 [13:52<31:47, 4.39it/s]
train loss:0.019938268865257288
30%|███████████████████████▏ | 3620/12000 [13:52<31:56, 4.37it/s]
train loss:0.011615633752726631
30%|███████████████████████▏ | 3621/12000 [13:52<32:08, 4.35it/s]
train loss:0.06457209844401729
30%|███████████████████████▏ | 3622/12000 [13:53<31:36, 4.42it/s]
train loss:0.029235522363984346
30%|███████████████████████▏ | 3623/12000 [13:53<31:48, 4.39it/s]
train loss:0.030535378003510187
30%|███████████████████████▎ | 3624/12000 [13:53<31:54, 4.37it/s]
train loss:0.00923762577521184
30%|███████████████████████▎ | 3625/12000 [13:53<32:05, 4.35it/s]
train loss:0.0055160711953959225
30%|███████████████████████▎ | 3626/12000 [13:54<31:56, 4.37it/s]
train loss:0.008647892119038466
30%|███████████████████████▎ | 3627/12000 [13:54<31:48, 4.39it/s]
train loss:0.010301593440541079
30%|███████████████████████▎ | 3628/12000 [13:54<31:46, 4.39it/s]
train loss:0.018535385007194535
30%|███████████████████████▎ | 3629/12000 [13:54<31:46, 4.39it/s]
train loss:0.0030167939667206756
30%|███████████████████████▎ | 3630/12000 [13:54<31:43, 4.40it/s]
train loss:0.04656501438565016
30%|███████████████████████▎ | 3631/12000 [13:55<31:22, 4.44it/s]
train loss:0.007962874816827151
30%|███████████████████████▎ | 3632/12000 [13:55<31:26, 4.43it/s]
train loss:0.001786774584722009
30%|███████████████████████▎ | 3633/12000 [13:55<31:36, 4.41it/s]
train loss:0.05791059682217716
30%|███████████████████████▎ | 3634/12000 [13:55<31:37, 4.41it/s]
train loss:0.041730624007117474
30%|███████████████████████▎ | 3635/12000 [13:56<31:32, 4.42it/s]
train loss:0.0233871659296923
30%|███████████████████████▎ | 3636/12000 [13:56<31:32, 4.42it/s]
train loss:0.019940683325286007
30%|███████████████████████▎ | 3637/12000 [13:56<31:49, 4.38it/s]
train loss:0.009374650147401596
30%|███████████████████████▎ | 3638/12000 [13:56<32:25, 4.30it/s]
train loss:0.019359658123457087
30%|███████████████████████▎ | 3639/12000 [13:57<32:19, 4.31it/s]
train loss:0.03190339178795104
30%|███████████████████████▎ | 3640/12000 [13:57<31:56, 4.36it/s]
train loss:0.01435523679042766
30%|███████████████████████▎ | 3641/12000 [13:57<31:52, 4.37it/s]
train loss:0.05601833768882667
30%|███████████████████████▎ | 3642/12000 [13:57<31:55, 4.36it/s]
train loss:0.004004332214424772
30%|███████████████████████▍ | 3643/12000 [13:57<31:53, 4.37it/s]
train loss:0.019823549738583763
30%|███████████████████████▍ | 3644/12000 [13:58<31:43, 4.39it/s]
train loss:0.0247662267629636
30%|███████████████████████▍ | 3645/12000 [13:58<31:44, 4.39it/s]
train loss:0.011296801803200892
30%|███████████████████████▍ | 3646/12000 [13:58<31:43, 4.39it/s]
train loss:0.007246814598296907
30%|███████████████████████▍ | 3647/12000 [13:58<31:43, 4.39it/s]
train loss:0.0032094233019226964
30%|███████████████████████▍ | 3648/12000 [13:59<31:36, 4.40it/s]
train loss:0.0282394348243004
30%|███████████████████████▍ | 3649/12000 [13:59<31:25, 4.43it/s]
train loss:0.004703433758796384
30%|███████████████████████▍ | 3650/12000 [13:59<31:36, 4.40it/s]
train loss:0.04073590778386578
30%|███████████████████████▍ | 3651/12000 [13:59<31:40, 4.39it/s]
train loss:0.024055831191854456
30%|███████████████████████▍ | 3652/12000 [13:59<31:48, 4.37it/s]
train loss:0.025998103158839832
30%|███████████████████████▍ | 3653/12000 [14:00<31:33, 4.41it/s]
train loss:0.010714300669035552
30%|███████████████████████▍ | 3654/12000 [14:00<31:36, 4.40it/s]
train loss:0.032739860470062596
30%|███████████████████████▍ | 3655/12000 [14:00<31:40, 4.39it/s]
train loss:0.010143529361773871
30%|███████████████████████▍ | 3656/12000 [14:00<31:43, 4.38it/s]
train loss:0.0029036946198941387
30%|███████████████████████▍ | 3657/12000 [14:01<31:31, 4.41it/s]
train loss:0.005802342822651879
30%|███████████████████████▍ | 3658/12000 [14:01<31:30, 4.41it/s]
train loss:0.00946376388904851
30%|███████████████████████▍ | 3659/12000 [14:01<32:36, 4.26it/s]
train loss:0.061204545870208495
30%|███████████████████████▍ | 3660/12000 [14:01<32:30, 4.28it/s]
train loss:0.01025358929635709
31%|███████████████████████▍ | 3661/12000 [14:02<33:22, 4.16it/s]
train loss:0.0925288649211136
31%|███████████████████████▍ | 3662/12000 [14:02<32:48, 4.24it/s]
train loss:0.0030259748364250584
31%|███████████████████████▌ | 3663/12000 [14:02<32:28, 4.28it/s]
train loss:0.017817473303931547
31%|███████████████████████▌ | 3664/12000 [14:02<32:11, 4.32it/s]
train loss:0.0029410906828113304
31%|███████████████████████▌ | 3665/12000 [14:03<32:07, 4.32it/s]
train loss:0.0251504423322006
31%|███████████████████████▌ | 3666/12000 [14:03<31:33, 4.40it/s]
train loss:0.013144616592630816
31%|███████████████████████▌ | 3667/12000 [14:03<31:33, 4.40it/s]
train loss:0.005453016733648095
31%|███████████████████████▌ | 3668/12000 [14:03<31:31, 4.41it/s]
train loss:0.04331223757410086
31%|███████████████████████▌ | 3669/12000 [14:03<31:39, 4.38it/s]
train loss:0.008082165358977938
31%|███████████████████████▌ | 3670/12000 [14:04<31:25, 4.42it/s]
train loss:0.006035642820528814
31%|███████████████████████▌ | 3671/12000 [14:04<31:19, 4.43it/s]
train loss:0.017837154617703688
31%|███████████████████████▌ | 3672/12000 [14:04<31:24, 4.42it/s]
train loss:0.040320165315889674
31%|███████████████████████▌ | 3673/12000 [14:04<31:30, 4.40it/s]
train loss:0.02822454523130916
31%|███████████████████████▌ | 3674/12000 [14:05<31:38, 4.39it/s]
train loss:0.023172650674778267
31%|███████████████████████▌ | 3675/12000 [14:05<31:23, 4.42it/s]
train loss:0.01169489166139545
31%|███████████████████████▌ | 3676/12000 [14:05<31:27, 4.41it/s]
train loss:0.002494199997842285
31%|███████████████████████▌ | 3677/12000 [14:05<31:27, 4.41it/s]
train loss:0.02093597752651698
31%|███████████████████████▌ | 3678/12000 [14:05<31:31, 4.40it/s]
train loss:0.17069985185424666
31%|███████████████████████▌ | 3679/12000 [14:06<31:10, 4.45it/s]
train loss:0.04742861235873195
31%|███████████████████████▌ | 3680/12000 [14:06<31:16, 4.43it/s]
train loss:0.01255974734147328
31%|███████████████████████▌ | 3681/12000 [14:06<31:19, 4.43it/s]
train loss:0.0035996001245823684
31%|███████████████████████▋ | 3682/12000 [14:06<31:22, 4.42it/s]
train loss:0.012423552684580851
31%|███████████████████████▋ | 3683/12000 [14:07<31:23, 4.42it/s]
train loss:0.10038907243768602
31%|███████████████████████▋ | 3684/12000 [14:07<31:05, 4.46it/s]
train loss:0.023142937947426754
31%|███████████████████████▋ | 3685/12000 [14:07<31:10, 4.45it/s]
train loss:0.009940917703501185
31%|███████████████████████▋ | 3686/12000 [14:07<31:16, 4.43it/s]
train loss:0.012523647272444465
31%|███████████████████████▋ | 3687/12000 [14:07<31:25, 4.41it/s]
train loss:0.010102201400097856
31%|███████████████████████▋ | 3688/12000 [14:08<31:12, 4.44it/s]
train loss:0.010075091699696422
31%|███████████████████████▋ | 3689/12000 [14:08<32:03, 4.32it/s]
train loss:0.07714077084871246
31%|███████████████████████▋ | 3690/12000 [14:08<32:05, 4.32it/s]
train loss:0.014842119741431726
31%|███████████████████████▋ | 3691/12000 [14:08<31:55, 4.34it/s]
train loss:0.006826301791674197
31%|███████████████████████▋ | 3692/12000 [14:09<31:34, 4.38it/s]
train loss:0.05162526553946709
31%|███████████████████████▋ | 3693/12000 [14:09<31:25, 4.40it/s]
train loss:0.0055374210460702455
31%|███████████████████████▋ | 3694/12000 [14:09<31:29, 4.40it/s]
train loss:0.01297865601587032
31%|███████████████████████▋ | 3695/12000 [14:09<31:26, 4.40it/s]
train loss:0.015512566779445009
31%|███████████████████████▋ | 3696/12000 [14:10<31:39, 4.37it/s]
train loss:0.03094805206364777
31%|███████████████████████▋ | 3697/12000 [14:10<31:14, 4.43it/s]
train loss:0.01670735656015299
31%|███████████████████████▋ | 3698/12000 [14:10<32:22, 4.27it/s]
train loss:0.006938974321575511
31%|███████████████████████▋ | 3699/12000 [14:10<32:23, 4.27it/s]
train loss:0.014480799939370096
31%|███████████████████████▋ | 3700/12000 [14:10<32:10, 4.30it/s]
train loss:0.009660590092454903
31%|███████████████████████▋ | 3701/12000 [14:11<31:43, 4.36it/s]
train loss:0.014740303453628457
31%|███████████████████████▊ | 3702/12000 [14:11<31:34, 4.38it/s]
train loss:0.013890283427026551
31%|███████████████████████▊ | 3703/12000 [14:11<31:29, 4.39it/s]
train loss:0.015031080957036404
31%|███████████████████████▊ | 3704/12000 [14:11<31:33, 4.38it/s]
train loss:0.07648000614435174
31%|███████████████████████▊ | 3705/12000 [14:12<31:28, 4.39it/s]
train loss:0.0038501492773605627
31%|███████████████████████▊ | 3706/12000 [14:12<31:10, 4.43it/s]
train loss:0.05746064193924799
31%|███████████████████████▊ | 3707/12000 [14:12<31:17, 4.42it/s]
train loss:0.014281431117562884
31%|███████████████████████▊ | 3708/12000 [14:12<31:24, 4.40it/s]
train loss:0.02404464897306838
31%|███████████████████████▊ | 3709/12000 [14:13<31:24, 4.40it/s]
train loss:0.007318082103518553
31%|███████████████████████▊ | 3710/12000 [14:13<31:00, 4.46it/s]
train loss:0.010268590965069546
31%|███████████████████████▊ | 3711/12000 [14:13<31:08, 4.44it/s]
train loss:0.009035945450852383
31%|███████████████████████▊ | 3712/12000 [14:13<31:22, 4.40it/s]
train loss:0.014685137845479252
31%|███████████████████████▊ | 3713/12000 [14:13<31:29, 4.39it/s]
train loss:0.016458744486229193
31%|███████████████████████▊ | 3714/12000 [14:14<31:16, 4.42it/s]
train loss:0.021277317356253645
31%|███████████████████████▊ | 3715/12000 [14:14<31:08, 4.43it/s]
train loss:0.004556553928811858
31%|███████████████████████▊ | 3716/12000 [14:14<31:16, 4.42it/s]
train loss:0.026862568776308816
31%|███████████████████████▊ | 3717/12000 [14:14<31:32, 4.38it/s]
train loss:0.039280092300801484
31%|███████████████████████▊ | 3718/12000 [14:15<31:29, 4.38it/s]
train loss:0.01564498830571272
31%|███████████████████████▊ | 3719/12000 [14:15<31:07, 4.43it/s]
train loss:0.010428517549773782
31%|███████████████████████▊ | 3720/12000 [14:15<31:10, 4.43it/s]
train loss:0.004018717373992817
31%|███████████████████████▉ | 3721/12000 [14:15<31:25, 4.39it/s]
train loss:0.06552813694763975
31%|███████████████████████▉ | 3722/12000 [14:15<31:25, 4.39it/s]
train loss:0.01272449365866393
31%|███████████████████████▉ | 3723/12000 [14:16<31:06, 4.43it/s]
train loss:0.0464966227876844
31%|███████████████████████▉ | 3724/12000 [14:16<31:28, 4.38it/s]
train loss:0.005114068139782515
31%|███████████████████████▉ | 3725/12000 [14:16<31:21, 4.40it/s]
train loss:0.010011536473597425
31%|███████████████████████▉ | 3726/12000 [14:16<31:16, 4.41it/s]
train loss:0.007033956156695487
31%|███████████████████████▉ | 3727/12000 [14:17<31:18, 4.40it/s]
train loss:0.025241398750514992
31%|███████████████████████▉ | 3728/12000 [14:17<32:23, 4.26it/s]
train loss:0.003381273195541932
31%|███████████████████████▉ | 3729/12000 [14:17<32:03, 4.30it/s]
train loss:0.01242378258754878
31%|███████████████████████▉ | 3730/12000 [14:17<31:47, 4.34it/s]
train loss:0.008475437045185302
31%|███████████████████████▉ | 3731/12000 [14:18<31:37, 4.36it/s]
train loss:0.004002775804251341
31%|███████████████████████▉ | 3732/12000 [14:18<31:05, 4.43it/s]
train loss:0.03707375808053008
31%|███████████████████████▉ | 3733/12000 [14:18<31:11, 4.42it/s]
train loss:0.008725377620932064
31%|███████████████████████▉ | 3734/12000 [14:18<31:11, 4.42it/s]
train loss:0.010751510599217038
31%|███████████████████████▉ | 3735/12000 [14:18<31:13, 4.41it/s]
train loss:0.023520950585237056
31%|███████████████████████▉ | 3736/12000 [14:19<31:03, 4.44it/s]
train loss:0.00593923561082841
31%|███████████████████████▉ | 3737/12000 [14:19<31:05, 4.43it/s]
train loss:0.006338571744305441
31%|███████████████████████▉ | 3738/12000 [14:19<31:09, 4.42it/s]
train loss:0.00913905891088836
31%|███████████████████████▉ | 3739/12000 [14:19<31:07, 4.42it/s]
train loss:0.04591192333828183
31%|███████████████████████▉ | 3740/12000 [14:20<31:12, 4.41it/s]
train loss:0.004478252317602669
31%|████████████████████████ | 3741/12000 [14:20<30:55, 4.45it/s]
train loss:0.0279345076290065
31%|████████████████████████ | 3742/12000 [14:20<31:01, 4.44it/s]
train loss:0.01744052929615906
31%|████████████████████████ | 3743/12000 [14:20<31:01, 4.44it/s]
train loss:0.003778694260907533
31%|████████████████████████ | 3744/12000 [14:20<31:06, 4.42it/s]
train loss:0.018124595344428382
31%|████████████████████████ | 3745/12000 [14:21<30:57, 4.44it/s]
train loss:0.009051003172183407
31%|████████████████████████ | 3746/12000 [14:21<31:00, 4.44it/s]
train loss:0.0030216105810339827
31%|████████████████████████ | 3747/12000 [14:21<31:05, 4.42it/s]
train loss:0.030040040985261827
31%|████████████████████████ | 3748/12000 [14:21<31:06, 4.42it/s]
train loss:0.006927347726822397
31%|████████████████████████ | 3749/12000 [14:22<31:09, 4.41it/s]
train loss:0.005297257878439352
31%|████████████████████████ | 3750/12000 [14:22<30:53, 4.45it/s]
train loss:0.00400735961343086
31%|████████████████████████ | 3751/12000 [14:22<31:02, 4.43it/s]
train loss:0.0014520164111639202
31%|████████████████████████ | 3752/12000 [14:22<31:06, 4.42it/s]
train loss:0.0016811955012386336
31%|████████████████████████ | 3753/12000 [14:22<31:11, 4.41it/s]
train loss:0.0061827011001630685
31%|████████████████████████ | 3754/12000 [14:23<30:53, 4.45it/s]
train loss:0.004082071503787349
31%|████████████████████████ | 3755/12000 [14:23<31:04, 4.42it/s]
train loss:0.005637964913565104
31%|████████████████████████ | 3756/12000 [14:23<31:12, 4.40it/s]
train loss:0.02121364668715876
31%|████████████████████████ | 3757/12000 [14:23<31:17, 4.39it/s]
train loss:0.007364762482772699
31%|████████████████████████ | 3758/12000 [14:24<31:04, 4.42it/s]
train loss:0.03028278388808508
31%|████████████████████████ | 3759/12000 [14:24<31:01, 4.43it/s]
train loss:0.023725930222689505
31%|████████████████████████▏ | 3760/12000 [14:24<32:14, 4.26it/s]
train loss:0.010263386578256026
31%|████████████████████████▏ | 3761/12000 [14:24<31:52, 4.31it/s]
train loss:0.0593914711011945
31%|████████████████████████▏ | 3762/12000 [14:25<31:39, 4.34it/s]
train loss:0.0028043296557446144
31%|████████████████████████▏ | 3763/12000 [14:25<31:12, 4.40it/s]
train loss:0.007851646580217754
31%|████████████████████████▏ | 3764/12000 [14:25<31:09, 4.41it/s]
train loss:0.04273380635976511
31%|████████████████████████▏ | 3766/12000 [14:25<31:12, 4.40it/s]
train loss:0.036130493374791774 train loss:0.020946573091790398
31%|████████████████████████▏ | 3767/12000 [14:26<30:37, 4.48it/s]
train loss:0.010436123871043052
31%|████████████████████████▏ | 3768/12000 [14:26<31:01, 4.42it/s]
train loss:0.02191875993000614
31%|████████████████████████▏ | 3769/12000 [14:26<31:01, 4.42it/s]
train loss:0.015979110010517307
31%|████████████████████████▏ | 3770/12000 [14:26<31:02, 4.42it/s]
train loss:0.013734221669805638
31%|████████████████████████▏ | 3771/12000 [14:27<31:03, 4.42it/s]
train loss:0.02365090044617443
31%|████████████████████████▏ | 3772/12000 [14:27<30:47, 4.45it/s]
train loss:0.06282509557962718
31%|████████████████████████▏ | 3773/12000 [14:27<31:00, 4.42it/s]
train loss:0.004756683931150579
31%|████████████████████████▏ | 3774/12000 [14:27<31:13, 4.39it/s]
train loss:0.004535394568162532
31%|████████████████████████▏ | 3775/12000 [14:27<31:16, 4.38it/s]
train loss:0.03660096852575248
31%|████████████████████████▏ | 3776/12000 [14:28<30:58, 4.43it/s]
train loss:0.09909464821910528
31%|████████████████████████▏ | 3777/12000 [14:28<31:06, 4.41it/s]
train loss:0.02734255158388612
31%|████████████████████████▏ | 3778/12000 [14:28<31:26, 4.36it/s]
train loss:0.007354023889513489
31%|████████████████████████▏ | 3779/12000 [14:28<31:38, 4.33it/s]
train loss:0.005593453701903153
32%|████████████████████████▎ | 3780/12000 [14:29<31:25, 4.36it/s]
train loss:0.0015681777920616773
32%|████████████████████████▎ | 3781/12000 [14:29<31:15, 4.38it/s]
train loss:0.008736000756467976
32%|████████████████████████▎ | 3782/12000 [14:29<32:42, 4.19it/s]
train loss:0.028637953643608893
32%|████████████████████████▎ | 3783/12000 [14:29<33:21, 4.11it/s]
train loss:0.0044712115104819546
32%|████████████████████████▎ | 3784/12000 [14:30<32:54, 4.16it/s]
train loss:0.06329655189817729
32%|████████████████████████▎ | 3785/12000 [14:30<32:15, 4.25it/s]
train loss:0.05642109847521222
32%|████████████████████████▎ | 3786/12000 [14:30<31:59, 4.28it/s]
train loss:0.01075573872144544
32%|████████████████████████▎ | 3787/12000 [14:30<31:54, 4.29it/s]
train loss:0.02517403434431147
32%|████████████████████████▎ | 3788/12000 [14:31<31:40, 4.32it/s]
train loss:0.013392304422120558
32%|████████████████████████▎ | 3789/12000 [14:31<31:04, 4.40it/s]
train loss:0.001606179214710414
32%|████████████████████████▎ | 3790/12000 [14:31<31:04, 4.40it/s]
train loss:0.010467715923607337
32%|████████████████████████▎ | 3791/12000 [14:31<31:03, 4.40it/s]
train loss:0.015417272872539571
32%|████████████████████████▎ | 3792/12000 [14:31<31:06, 4.40it/s]
train loss:0.16770428685606284
32%|████████████████████████▎ | 3793/12000 [14:32<32:48, 4.17it/s]
train loss:0.004033027472265624
32%|████████████████████████▎ | 3794/12000 [14:32<32:12, 4.25it/s]
train loss:0.017053436008054278
32%|████████████████████████▎ | 3795/12000 [14:32<31:47, 4.30it/s]
train loss:0.016021464606556575
32%|████████████████████████▎ | 3796/12000 [14:32<31:32, 4.33it/s]
train loss:0.06811238885290594
32%|████████████████████████▎ | 3797/12000 [14:33<31:36, 4.33it/s]
train loss:0.015395863985379604
32%|████████████████████████▎ | 3798/12000 [14:33<31:19, 4.36it/s]
train loss:0.0036243628407430263
32%|████████████████████████▍ | 3799/12000 [14:33<31:10, 4.38it/s]
train loss:0.029956866476000644
32%|████████████████████████▍ | 3800/12000 [14:33<31:42, 4.31it/s]
train loss:0.009002913847774744
32%|████████████████████████▍ | 3801/12000 [14:34<31:55, 4.28it/s]
train loss:0.001049853525076072
32%|████████████████████████▍ | 3802/12000 [14:34<31:30, 4.34it/s]
train loss:0.0025336136241749007
32%|████████████████████████▍ | 3803/12000 [14:34<31:22, 4.36it/s]
train loss:0.0062242564578403855
32%|████████████████████████▍ | 3804/12000 [14:34<31:13, 4.37it/s]
train loss:0.010922351484806015
32%|████████████████████████▍ | 3805/12000 [14:34<31:13, 4.37it/s]
train loss:0.03989085985739507
32%|████████████████████████▍ | 3806/12000 [14:35<30:52, 4.42it/s]
train loss:0.008657612574629697
32%|████████████████████████▍ | 3807/12000 [14:35<31:13, 4.37it/s]
train loss:0.06734750106994777
32%|████████████████████████▍ | 3808/12000 [14:35<31:18, 4.36it/s]
train loss:0.014777885229612651
32%|████████████████████████▍ | 3809/12000 [14:35<31:43, 4.30it/s]
train loss:0.010965814375958085
32%|████████████████████████▍ | 3810/12000 [14:36<31:26, 4.34it/s]
train loss:0.007239078755751619
32%|████████████████████████▍ | 3811/12000 [14:36<32:31, 4.20it/s]
train loss:0.017197016092210155
32%|████████████████████████▍ | 3812/12000 [14:36<32:00, 4.26it/s]
train loss:0.011368354233417593
32%|████████████████████████▍ | 3813/12000 [14:36<32:38, 4.18it/s]
train loss:0.0020077459007519357
32%|████████████████████████▍ | 3814/12000 [14:37<32:10, 4.24it/s]
train loss:0.02503832715268415
32%|████████████████████████▍ | 3815/12000 [14:37<31:35, 4.32it/s]
train loss:0.003613383386203875
32%|████████████████████████▍ | 3816/12000 [14:37<31:25, 4.34it/s]
train loss:0.008418006989034846
32%|████████████████████████▍ | 3817/12000 [14:37<31:17, 4.36it/s]
train loss:0.00707553064136593
32%|████████████████████████▍ | 3818/12000 [14:37<31:11, 4.37it/s]
train loss:0.001860569094577044
32%|████████████████████████▌ | 3819/12000 [14:38<30:45, 4.43it/s]
train loss:0.013626219524182531
32%|████████████████████████▌ | 3820/12000 [14:38<30:51, 4.42it/s]
train loss:0.05414316933770809
32%|████████████████████████▌ | 3821/12000 [14:38<30:52, 4.42it/s]
train loss:0.023484490947805123
32%|████████████████████████▌ | 3822/12000 [14:38<30:51, 4.42it/s]
train loss:0.008976858285892701
32%|████████████████████████▌ | 3823/12000 [14:39<30:53, 4.41it/s]
train loss:0.014627764670179698
32%|████████████████████████▌ | 3824/12000 [14:39<30:35, 4.45it/s]
train loss:0.02009187673214899
32%|████████████████████████▌ | 3825/12000 [14:39<30:41, 4.44it/s]
train loss:0.008926388930429277
32%|████████████████████████▌ | 3826/12000 [14:39<30:46, 4.43it/s]
train loss:0.09559556697634947
32%|████████████████████████▌ | 3827/12000 [14:39<30:46, 4.43it/s]
train loss:0.006744961864098706
32%|████████████████████████▌ | 3828/12000 [14:40<30:31, 4.46it/s]
train loss:0.018805790406036468
32%|████████████████████████▌ | 3829/12000 [14:40<30:38, 4.44it/s]
train loss:0.005890052589313294
32%|████████████████████████▌ | 3830/12000 [14:40<30:42, 4.43it/s]
train loss:0.0025756641458758874
32%|████████████████████████▌ | 3831/12000 [14:40<30:46, 4.42it/s]
train loss:0.010719617038973147
32%|████████████████████████▌ | 3832/12000 [14:41<30:42, 4.43it/s]
train loss:0.014859224366077091
32%|████████████████████████▌ | 3833/12000 [14:41<30:39, 4.44it/s]
train loss:0.0039865831787874164
32%|████████████████████████▌ | 3834/12000 [14:41<30:44, 4.43it/s]
train loss:0.003296818256268654
32%|████████████████████████▌ | 3835/12000 [14:41<30:46, 4.42it/s]
train loss:0.0380028907469648
32%|████████████████████████▌ | 3836/12000 [14:42<30:51, 4.41it/s]
train loss:0.007425862839415987
32%|████████████████████████▌ | 3837/12000 [14:42<30:28, 4.47it/s]
train loss:0.04697462709433739
32%|████████████████████████▋ | 3838/12000 [14:42<30:39, 4.44it/s]
train loss:0.00326761750188416
32%|████████████████████████▋ | 3839/12000 [14:42<30:39, 4.44it/s]
train loss:0.09229019171048329
32%|████████████████████████▋ | 3840/12000 [14:42<30:46, 4.42it/s]
train loss:0.01001051427686485
32%|████████████████████████▋ | 3841/12000 [14:43<30:39, 4.43it/s]
train loss:0.03659940218851159
32%|████████████████████████▋ | 3842/12000 [14:43<30:41, 4.43it/s]
train loss:0.07447880526605995
32%|████████████████████████▋ | 3843/12000 [14:43<30:43, 4.42it/s]
train loss:0.011586341940981792
32%|████████████████████████▋ | 3844/12000 [14:43<30:45, 4.42it/s]
train loss:0.009977426587751975
32%|████████████████████████▋ | 3845/12000 [14:44<30:58, 4.39it/s]
train loss:0.005700089040707481
32%|████████████████████████▋ | 3846/12000 [14:44<30:49, 4.41it/s]
train loss:0.0095243141004476
32%|████████████████████████▋ | 3847/12000 [14:44<31:01, 4.38it/s]
train loss:0.008549246948801463
32%|████████████████████████▋ | 3848/12000 [14:44<31:11, 4.36it/s]
train loss:0.004801551799068137
32%|████████████████████████▋ | 3849/12000 [14:44<31:37, 4.30it/s]
train loss:0.009239614316802867
32%|████████████████████████▋ | 3850/12000 [14:45<31:01, 4.38it/s]
train loss:0.044794746408649555
32%|████████████████████████▋ | 3851/12000 [14:45<31:25, 4.32it/s]
train loss:0.0405664865178815
32%|████████████████████████▋ | 3852/12000 [14:45<31:15, 4.34it/s]
train loss:0.020216940198464987
32%|████████████████████████▋ | 3853/12000 [14:45<31:06, 4.36it/s]
train loss:0.00255155273255876
32%|████████████████████████▋ | 3854/12000 [14:46<30:56, 4.39it/s]
train loss:0.006455211220843515
32%|████████████████████████▋ | 3855/12000 [14:46<30:48, 4.41it/s]
train loss:0.0294980588485591
32%|████████████████████████▋ | 3856/12000 [14:46<30:49, 4.40it/s]
train loss:0.006818139031465229
32%|████████████████████████▋ | 3857/12000 [14:46<30:47, 4.41it/s]
train loss:0.006671790963798837
32%|████████████████████████▊ | 3858/12000 [14:47<30:58, 4.38it/s]
train loss:0.034322546097694355
32%|████████████████████████▊ | 3859/12000 [14:47<30:33, 4.44it/s]
train loss:0.011033302954671165
32%|████████████████████████▊ | 3860/12000 [14:47<30:37, 4.43it/s]
train loss:0.004766486472822562
32%|████████████████████████▊ | 3861/12000 [14:47<31:07, 4.36it/s]
train loss:0.0038984480579625264
32%|████████████████████████▊ | 3862/12000 [14:47<31:33, 4.30it/s]
train loss:0.023028208173384357
32%|████████████████████████▊ | 3863/12000 [14:48<32:27, 4.18it/s]
train loss:0.0039916267243195755
32%|████████████████████████▊ | 3864/12000 [14:48<31:58, 4.24it/s]
train loss:0.0014215908820889224
32%|████████████████████████▊ | 3865/12000 [14:48<31:35, 4.29it/s]
train loss:0.019841004221487313
32%|████████████████████████▊ | 3866/12000 [14:48<31:19, 4.33it/s]
train loss:0.03935642382858459
32%|████████████████████████▊ | 3867/12000 [14:49<31:03, 4.37it/s]
train loss:0.007507150149694112
32%|████████████████████████▊ | 3868/12000 [14:49<30:51, 4.39it/s]
train loss:0.010151057143997048
32%|████████████████████████▊ | 3869/12000 [14:49<30:48, 4.40it/s]
train loss:0.012202343826858107
32%|████████████████████████▊ | 3870/12000 [14:49<30:51, 4.39it/s]
train loss:0.0029867199128987896
32%|████████████████████████▊ | 3871/12000 [14:50<30:56, 4.38it/s]
train loss:0.005177079158485365
32%|████████████████████████▊ | 3872/12000 [14:50<30:35, 4.43it/s]
train loss:0.029082404458461775
32%|████████████████████████▊ | 3873/12000 [14:50<30:43, 4.41it/s]
train loss:0.009621398885698955
32%|████████████████████████▊ | 3874/12000 [14:50<31:02, 4.36it/s]
train loss:0.008771525141817721
32%|████████████████████████▊ | 3875/12000 [14:50<31:06, 4.35it/s]
train loss:0.007676314955351695
32%|████████████████████████▊ | 3876/12000 [14:51<30:39, 4.42it/s]
train loss:0.007152865016738574
32%|████████████████████████▉ | 3877/12000 [14:51<30:43, 4.41it/s]
train loss:0.0046073406838517544
32%|████████████████████████▉ | 3878/12000 [14:51<30:43, 4.41it/s]
train loss:0.01320783210441684
32%|████████████████████████▉ | 3879/12000 [14:51<30:57, 4.37it/s]
train loss:0.0033994007896875696
32%|████████████████████████▉ | 3880/12000 [14:52<31:01, 4.36it/s]
train loss:0.005183190897113206
32%|████████████████████████▉ | 3881/12000 [14:52<30:38, 4.42it/s]
train loss:0.0047828269238263214
32%|████████████████████████▉ | 3882/12000 [14:52<30:47, 4.40it/s]
train loss:0.018246709819452325
32%|████████████████████████▉ | 3883/12000 [14:52<30:44, 4.40it/s]
train loss:0.024207775092121322
32%|████████████████████████▉ | 3884/12000 [14:52<30:42, 4.40it/s]
train loss:0.004713709257024801
32%|████████████████████████▉ | 3885/12000 [14:53<30:28, 4.44it/s]
train loss:0.011673205471376567
32%|████████████████████████▉ | 3886/12000 [14:53<30:50, 4.38it/s]
train loss:0.016175556547743317
32%|████████████████████████▉ | 3887/12000 [14:53<30:48, 4.39it/s]
train loss:0.005320356150944483
32%|████████████████████████▉ | 3888/12000 [14:53<30:59, 4.36it/s]
train loss:0.004272116215999523
32%|████████████████████████▉ | 3889/12000 [14:54<30:46, 4.39it/s]
train loss:0.06279723928812826
32%|████████████████████████▉ | 3890/12000 [14:54<30:39, 4.41it/s]
train loss:0.018889822931840324
32%|████████████████████████▉ | 3891/12000 [14:54<30:50, 4.38it/s]
train loss:0.017210230576273414
32%|████████████████████████▉ | 3892/12000 [14:54<30:48, 4.39it/s]
train loss:0.02347410728411132
32%|████████████████████████▉ | 3893/12000 [14:55<30:49, 4.38it/s]
train loss:0.004040635481205481
32%|████████████████████████▉ | 3894/12000 [14:55<30:21, 4.45it/s]
train loss:0.014165226297350494
32%|████████████████████████▉ | 3895/12000 [14:55<30:30, 4.43it/s]
train loss:0.0064123122278838185
32%|████████████████████████▉ | 3896/12000 [14:55<30:35, 4.41it/s]
train loss:0.019614079646734166
32%|█████████████████████████ | 3897/12000 [14:55<30:37, 4.41it/s]
train loss:0.018432207565931356
32%|█████████████████████████ | 3898/12000 [14:56<30:14, 4.46it/s]
train loss:0.0059619444542603536
32%|█████████████████████████ | 3899/12000 [14:56<30:31, 4.42it/s]
train loss:0.0048234242729379515
32%|█████████████████████████ | 3900/12000 [14:56<30:31, 4.42it/s]
train loss:0.007570655273004845
33%|█████████████████████████ | 3901/12000 [14:56<30:50, 4.38it/s]
train loss:0.01023182301556533
33%|█████████████████████████ | 3902/12000 [14:57<30:53, 4.37it/s]
train loss:0.046095492720378044
33%|█████████████████████████ | 3903/12000 [14:57<31:41, 4.26it/s]
train loss:0.020821011045672064
33%|█████████████████████████ | 3904/12000 [14:57<32:04, 4.21it/s]
train loss:0.03250590682465234
33%|█████████████████████████ | 3905/12000 [14:57<31:36, 4.27it/s]
train loss:0.012144340576162515
33%|█████████████████████████ | 3906/12000 [14:58<31:24, 4.30it/s]
train loss:0.01573633637884892
33%|█████████████████████████ | 3907/12000 [14:58<30:44, 4.39it/s]
train loss:0.005011216161603838
33%|█████████████████████████ | 3908/12000 [14:58<30:45, 4.39it/s]
train loss:0.1638187441048138
33%|█████████████████████████ | 3909/12000 [14:58<30:44, 4.39it/s]
train loss:0.0024212753221580434
33%|█████████████████████████ | 3910/12000 [14:58<30:37, 4.40it/s]
train loss:0.0629589721896903
33%|█████████████████████████ | 3911/12000 [14:59<30:26, 4.43it/s]
train loss:0.0027914234656460433
33%|█████████████████████████ | 3912/12000 [14:59<30:44, 4.38it/s]
train loss:0.0022176290986059654
33%|█████████████████████████ | 3913/12000 [14:59<30:42, 4.39it/s]
train loss:0.011212600800072732
33%|█████████████████████████ | 3914/12000 [14:59<30:41, 4.39it/s]
train loss:0.00671772693908776
33%|█████████████████████████ | 3915/12000 [15:00<31:23, 4.29it/s]
train loss:0.0046534239153644495
33%|█████████████████████████▏ | 3916/12000 [15:00<31:02, 4.34it/s]
train loss:0.00983963882061141
33%|█████████████████████████▏ | 3917/12000 [15:00<30:57, 4.35it/s]
train loss:0.03428417167072959
33%|█████████████████████████▏ | 3918/12000 [15:00<31:00, 4.34it/s]
train loss:0.01909380373139987
33%|█████████████████████████▏ | 3919/12000 [15:00<31:19, 4.30it/s]
train loss:0.010164614628341461
33%|█████████████████████████▏ | 3920/12000 [15:01<30:55, 4.36it/s]
train loss:0.014014946961045422
33%|█████████████████████████▏ | 3921/12000 [15:01<30:47, 4.37it/s]
train loss:0.004922306743489754
33%|█████████████████████████▏ | 3922/12000 [15:01<30:41, 4.39it/s]
train loss:0.013297217749568777
33%|█████████████████████████▏ | 3923/12000 [15:01<30:38, 4.39it/s]
train loss:0.03171291122824363
33%|█████████████████████████▏ | 3924/12000 [15:02<30:27, 4.42it/s]
train loss:0.009017319518801028
33%|█████████████████████████▏ | 3925/12000 [15:02<30:31, 4.41it/s]
train loss:0.020841619862633897
33%|█████████████████████████▏ | 3926/12000 [15:02<30:29, 4.41it/s]
train loss:0.009234345923605341
33%|█████████████████████████▏ | 3927/12000 [15:02<30:29, 4.41it/s]
train loss:0.012380228369429615
33%|█████████████████████████▏ | 3928/12000 [15:03<30:39, 4.39it/s]
train loss:0.01189214014054531
33%|█████████████████████████▏ | 3929/12000 [15:03<30:14, 4.45it/s]
train loss:0.030007222945804095
33%|█████████████████████████▏ | 3930/12000 [15:03<30:28, 4.41it/s]
train loss:0.07617597530444487
33%|█████████████████████████▏ | 3931/12000 [15:03<30:31, 4.41it/s]
train loss:0.016689157067116052
33%|█████████████████████████▏ | 3932/12000 [15:03<30:30, 4.41it/s]
train loss:0.0021614326049682947
33%|█████████████████████████▏ | 3933/12000 [15:04<30:08, 4.46it/s]
train loss:0.001110929766031653
33%|█████████████████████████▏ | 3934/12000 [15:04<30:18, 4.44it/s]
train loss:0.01567201232264065
33%|█████████████████████████▏ | 3935/12000 [15:04<30:20, 4.43it/s]
train loss:0.006191590665123875
33%|█████████████████████████▎ | 3936/12000 [15:04<30:29, 4.41it/s]
train loss:0.025969706788234483
33%|█████████████████████████▎ | 3937/12000 [15:05<30:35, 4.39it/s]
train loss:0.004029964638871787
33%|█████████████████████████▎ | 3938/12000 [15:05<30:17, 4.43it/s]
train loss:0.05048499820891722
33%|█████████████████████████▎ | 3939/12000 [15:05<30:26, 4.41it/s]
train loss:0.010526747399847056
33%|█████████████████████████▎ | 3940/12000 [15:05<30:26, 4.41it/s]
train loss:0.0016739601425957542
33%|█████████████████████████▎ | 3941/12000 [15:05<30:25, 4.41it/s]
train loss:0.007331634663279097
33%|█████████████████████████▎ | 3942/12000 [15:06<30:06, 4.46it/s]
train loss:0.002977470212683527
33%|█████████████████████████▎ | 3943/12000 [15:06<30:13, 4.44it/s]
train loss:0.047315829150283165
33%|█████████████████████████▎ | 3944/12000 [15:06<30:17, 4.43it/s]
train loss:0.06489565128932144
33%|█████████████████████████▎ | 3945/12000 [15:06<30:22, 4.42it/s]
train loss:0.012454761073822483
33%|█████████████████████████▎ | 3946/12000 [15:07<30:24, 4.41it/s]
train loss:0.016600356099326672
33%|█████████████████████████▎ | 3947/12000 [15:07<30:13, 4.44it/s]
train loss:0.005170716426999404
33%|█████████████████████████▎ | 3948/12000 [15:07<30:28, 4.40it/s]
train loss:0.0086449152528844
33%|█████████████████████████▎ | 3949/12000 [15:07<30:27, 4.41it/s]
train loss:0.019719388350575386
33%|█████████████████████████▎ | 3950/12000 [15:07<30:30, 4.40it/s]
train loss:0.009633505098333195
33%|█████████████████████████▎ | 3951/12000 [15:08<30:03, 4.46it/s]
train loss:0.012670341389181243
33%|█████████████████████████▎ | 3952/12000 [15:08<30:12, 4.44it/s]
train loss:0.0030784420292030014
33%|█████████████████████████▎ | 3953/12000 [15:08<30:15, 4.43it/s]
train loss:0.009430814257096765
33%|█████████████████████████▎ | 3954/12000 [15:08<30:16, 4.43it/s]
train loss:0.013863521695345883
33%|█████████████████████████▍ | 3955/12000 [15:09<30:13, 4.44it/s]
train loss:0.005508908154189643
33%|█████████████████████████▍ | 3956/12000 [15:09<30:03, 4.46it/s]
train loss:0.005279895717588142
33%|█████████████████████████▍ | 3957/12000 [15:09<30:14, 4.43it/s]
train loss:0.005118303789294848
33%|█████████████████████████▍ | 3958/12000 [15:09<30:18, 4.42it/s]
train loss:0.064901720436521
33%|█████████████████████████▍ | 3959/12000 [15:10<30:16, 4.43it/s]
train loss:0.05500475979431428
33%|█████████████████████████▍ | 3960/12000 [15:10<29:58, 4.47it/s]
train loss:0.03802268524422775
33%|█████████████████████████▍ | 3961/12000 [15:10<30:05, 4.45it/s]
train loss:0.006570903343691849
33%|█████████████████████████▍ | 3962/12000 [15:10<30:14, 4.43it/s]
train loss:0.004286631325588839
33%|█████████████████████████▍ | 3963/12000 [15:10<30:22, 4.41it/s]
train loss:0.04776887169990508
33%|█████████████████████████▍ | 3964/12000 [15:11<30:00, 4.46it/s]
train loss:0.004599873896977773
33%|█████████████████████████▍ | 3965/12000 [15:11<30:07, 4.45it/s]
train loss:0.008883771229781042
33%|█████████████████████████▍ | 3966/12000 [15:11<30:09, 4.44it/s]
train loss:0.022340261640321837
33%|█████████████████████████▍ | 3967/12000 [15:11<30:12, 4.43it/s]
train loss:0.002230091784464891
33%|█████████████████████████▍ | 3968/12000 [15:12<30:18, 4.42it/s]
train loss:0.017061436408357698
33%|█████████████████████████▍ | 3969/12000 [15:12<30:07, 4.44it/s]
train loss:0.0043073646763811604
33%|█████████████████████████▍ | 3970/12000 [15:12<30:14, 4.42it/s]
train loss:0.009745406539944605
33%|█████████████████████████▍ | 3971/12000 [15:12<30:20, 4.41it/s]
train loss:0.005430919251456516
33%|█████████████████████████▍ | 3972/12000 [15:12<30:19, 4.41it/s]
train loss:0.014562374726912049
33%|█████████████████████████▍ | 3973/12000 [15:13<30:01, 4.45it/s]
train loss:0.013915185486213106
33%|█████████████████████████▍ | 3974/12000 [15:13<30:09, 4.44it/s]
train loss:0.005338836666721575
33%|█████████████████████████▌ | 3975/12000 [15:13<30:20, 4.41it/s]
train loss:0.013722746492727724
33%|█████████████████████████▌ | 3976/12000 [15:13<30:29, 4.39it/s]
train loss:0.014065842372644298
33%|█████████████████████████▌ | 3977/12000 [15:14<30:20, 4.41it/s]
train loss:0.011685493333862455
33%|█████████████████████████▌ | 3978/12000 [15:14<30:07, 4.44it/s]
train loss:0.016342758180415046
33%|█████████████████████████▌ | 3979/12000 [15:14<30:12, 4.43it/s]
train loss:0.006211665520855785
33%|█████████████████████████▌ | 3980/12000 [15:14<30:15, 4.42it/s]
train loss:0.02261235022813206
33%|█████████████████████████▌ | 3981/12000 [15:14<30:20, 4.41it/s]
train loss:0.011445440792790158
33%|█████████████████████████▌ | 3982/12000 [15:15<29:57, 4.46it/s]
train loss:0.06895721586375353
33%|█████████████████████████▌ | 3983/12000 [15:15<30:03, 4.45it/s]
train loss:0.0097779455091054
33%|█████████████████████████▌ | 3984/12000 [15:15<30:06, 4.44it/s]
train loss:0.008246948445089821
33%|█████████████████████████▌ | 3985/12000 [15:15<30:17, 4.41it/s]
train loss:0.0077721906632892915
33%|█████████████████████████▌ | 3986/12000 [15:16<30:14, 4.42it/s]
train loss:0.009203318798711545
33%|█████████████████████████▌ | 3987/12000 [15:16<30:12, 4.42it/s]
train loss:0.01835416803181028
33%|█████████████████████████▌ | 3988/12000 [15:16<30:19, 4.40it/s]
train loss:0.006095877644876952
33%|█████████████████████████▌ | 3989/12000 [15:16<30:25, 4.39it/s]
train loss:0.0055867608697931235
33%|█████████████████████████▌ | 3990/12000 [15:17<30:21, 4.40it/s]
train loss:0.011399745994349415
33%|█████████████████████████▌ | 3991/12000 [15:17<29:54, 4.46it/s]
train loss:0.005432798975606861
33%|█████████████████████████▌ | 3992/12000 [15:17<30:05, 4.44it/s]
train loss:0.0031742289005133708
33%|█████████████████████████▌ | 3993/12000 [15:17<30:08, 4.43it/s]
train loss:0.009411777284972233
33%|█████████████████████████▋ | 3994/12000 [15:17<30:08, 4.43it/s]
train loss:0.010066040484874795
33%|█████████████████████████▋ | 3995/12000 [15:18<29:49, 4.47it/s]
train loss:0.03476419093882352
33%|█████████████████████████▋ | 3996/12000 [15:18<30:07, 4.43it/s]
train loss:0.004067720874164898
33%|█████████████████████████▋ | 3997/12000 [15:18<30:03, 4.44it/s]
train loss:0.0018477955799784962
33%|█████████████████████████▋ | 3998/12000 [15:18<30:11, 4.42it/s]
train loss:0.0010907625717898103
33%|█████████████████████████▋ | 3999/12000 [15:19<30:26, 4.38it/s]
train loss:0.008593608014970005
33%|█████████████████████████▋ | 4000/12000 [15:19<30:03, 4.44it/s]
train loss:0.0033049818491124794
33%|█████████████████████████▋ | 4001/12000 [15:19<30:16, 4.40it/s]
train loss:0.009583617022162627
33%|█████████████████████████▋ | 4002/12000 [15:19<30:13, 4.41it/s]
train loss:0.005459416354735128
33%|█████████████████████████▋ | 4003/12000 [15:19<30:29, 4.37it/s]
train loss:0.004250637032347584
33%|█████████████████████████▋ | 4004/12000 [15:20<30:14, 4.41it/s]
train loss:0.014297588965776153
33%|█████████████████████████▋ | 4005/12000 [15:20<30:04, 4.43it/s]
train loss:0.00626442361894171
33%|█████████████████████████▋ | 4006/12000 [15:20<30:15, 4.40it/s]
train loss:0.01616599401308232
33%|█████████████████████████▋ | 4007/12000 [15:20<30:16, 4.40it/s]
train loss:0.007764089130133171
33%|█████████████████████████▋ | 4008/12000 [15:21<30:11, 4.41it/s]
train loss:0.03579395639590604
33%|█████████████████████████▋ | 4009/12000 [15:21<30:26, 4.37it/s]
train loss:0.0037800916876312603
33%|█████████████████████████▋ | 4010/12000 [15:21<30:23, 4.38it/s]
train loss:0.008929362348480897
33%|█████████████████████████▋ | 4011/12000 [15:21<30:21, 4.39it/s]
train loss:0.020599489155560785
33%|█████████████████████████▋ | 4012/12000 [15:22<30:17, 4.40it/s]
train loss:0.0033969859896582433
33%|█████████████████████████▊ | 4013/12000 [15:22<29:52, 4.46it/s]
train loss:0.0042700347441665554
33%|█████████████████████████▊ | 4014/12000 [15:22<30:00, 4.44it/s]
train loss:0.12412035832615417
33%|█████████████████████████▊ | 4015/12000 [15:22<30:06, 4.42it/s]
train loss:0.00719306367314781
33%|█████████████████████████▊ | 4016/12000 [15:22<30:07, 4.42it/s]
train loss:0.04466660953488196
33%|█████████████████████████▊ | 4017/12000 [15:23<30:00, 4.43it/s]
train loss:0.011587868643607484
33%|█████████████████████████▊ | 4018/12000 [15:23<30:00, 4.43it/s]
train loss:0.040965043773925326
33%|█████████████████████████▊ | 4019/12000 [15:23<30:13, 4.40it/s]
train loss:0.02071395597453516
34%|█████████████████████████▊ | 4020/12000 [15:23<30:09, 4.41it/s]
train loss:0.0016606935456168236
34%|█████████████████████████▊ | 4021/12000 [15:24<30:12, 4.40it/s]
train loss:0.013886891135126195
34%|█████████████████████████▊ | 4022/12000 [15:24<30:10, 4.41it/s]
train loss:0.006749022472388135
34%|█████████████████████████▊ | 4023/12000 [15:24<30:14, 4.40it/s]
train loss:0.012940033127703985
34%|█████████████████████████▊ | 4024/12000 [15:24<30:13, 4.40it/s]
train loss:0.015069363549005422
34%|█████████████████████████▊ | 4025/12000 [15:24<30:13, 4.40it/s]
train loss:0.01462768620239946
34%|█████████████████████████▊ | 4026/12000 [15:25<29:52, 4.45it/s]
train loss:0.008998888920557975
34%|█████████████████████████▊ | 4027/12000 [15:25<30:07, 4.41it/s]
train loss:0.007635019176838165
34%|█████████████████████████▊ | 4028/12000 [15:25<30:20, 4.38it/s]
train loss:0.006945170994672209
34%|█████████████████████████▊ | 4029/12000 [15:25<30:29, 4.36it/s]
train loss:0.008389867386626079
34%|█████████████████████████▊ | 4030/12000 [15:26<30:20, 4.38it/s]
train loss:0.006652579653615438
34%|█████████████████████████▊ | 4031/12000 [15:26<30:10, 4.40it/s]
train loss:0.031918364568171535
34%|█████████████████████████▊ | 4032/12000 [15:26<30:11, 4.40it/s]
train loss:0.012713490921173671
34%|█████████████████████████▉ | 4033/12000 [15:26<30:10, 4.40it/s]
train loss:0.001170898588323425
34%|█████████████████████████▉ | 4034/12000 [15:27<30:30, 4.35it/s]
train loss:0.0038837285257638404
34%|█████████████████████████▉ | 4035/12000 [15:27<30:03, 4.42it/s]
train loss:0.03175187247389838
34%|█████████████████████████▉ | 4036/12000 [15:27<30:12, 4.39it/s]
train loss:0.018981507920386075
34%|█████████████████████████▉ | 4037/12000 [15:27<30:11, 4.40it/s]
train loss:0.005778192369548575
34%|█████████████████████████▉ | 4038/12000 [15:27<30:11, 4.40it/s]
train loss:0.05353725624172732
34%|█████████████████████████▉ | 4039/12000 [15:28<29:59, 4.42it/s]
train loss:0.01968791540116421
34%|█████████████████████████▉ | 4040/12000 [15:28<29:56, 4.43it/s]
train loss:0.03007258333737899
34%|█████████████████████████▉ | 4041/12000 [15:28<29:58, 4.42it/s]
train loss:0.01704463044386058
34%|█████████████████████████▉ | 4042/12000 [15:28<29:59, 4.42it/s]
train loss:0.009592249379961112
34%|█████████████████████████▉ | 4043/12000 [15:29<30:12, 4.39it/s]
train loss:0.005721299741250652
34%|█████████████████████████▉ | 4044/12000 [15:29<29:52, 4.44it/s]
train loss:0.012953743338824193
34%|█████████████████████████▉ | 4045/12000 [15:29<29:53, 4.43it/s]
train loss:0.02006070311549315
34%|█████████████████████████▉ | 4046/12000 [15:29<30:04, 4.41it/s]
train loss:0.008171436662177529
34%|█████████████████████████▉ | 4047/12000 [15:29<30:03, 4.41it/s]
train loss:0.004486454104684666
34%|█████████████████████████▉ | 4048/12000 [15:30<29:43, 4.46it/s]
train loss:0.012612467088105204
34%|█████████████████████████▉ | 4049/12000 [15:30<29:53, 4.43it/s]
train loss:0.004476092804035559
34%|█████████████████████████▉ | 4050/12000 [15:30<29:54, 4.43it/s]
train loss:0.002279677254992361
34%|█████████████████████████▉ | 4051/12000 [15:30<29:56, 4.42it/s]
train loss:0.0027204782427571357
34%|██████████████████████████ | 4052/12000 [15:31<29:59, 4.42it/s]
train loss:0.0016172100661959355
34%|██████████████████████████ | 4053/12000 [15:31<29:40, 4.46it/s]
train loss:0.006762032977265278
34%|██████████████████████████ | 4054/12000 [15:31<29:48, 4.44it/s]
train loss:0.012258848457246577
34%|██████████████████████████ | 4055/12000 [15:31<29:52, 4.43it/s]
train loss:0.009267824711580075
34%|██████████████████████████ | 4056/12000 [15:31<29:55, 4.42it/s]
train loss:0.011828513353347581
34%|██████████████████████████ | 4057/12000 [15:32<29:35, 4.47it/s]
train loss:0.005018397380727333
34%|██████████████████████████ | 4058/12000 [15:32<29:38, 4.47it/s]
train loss:0.02881530343987845
34%|██████████████████████████ | 4059/12000 [15:32<29:52, 4.43it/s]
train loss:0.005578227633716876
34%|██████████████████████████ | 4060/12000 [15:32<29:56, 4.42it/s]
train loss:0.010185740210116223
34%|██████████████████████████ | 4061/12000 [15:33<29:55, 4.42it/s]
train loss:0.002180968868345674
34%|██████████████████████████ | 4062/12000 [15:33<29:52, 4.43it/s]
train loss:0.027530748938779142
34%|██████████████████████████ | 4063/12000 [15:33<29:53, 4.43it/s]
train loss:0.011441010968097663
34%|██████████████████████████ | 4064/12000 [15:33<29:54, 4.42it/s]
train loss:0.007088101406313484
34%|██████████████████████████ | 4065/12000 [15:34<29:55, 4.42it/s]
train loss:0.006154049724180533
34%|██████████████████████████ | 4066/12000 [15:34<29:36, 4.47it/s]
train loss:0.004181303531480875
34%|██████████████████████████ | 4067/12000 [15:34<29:43, 4.45it/s]
train loss:0.007400981110576651
34%|██████████████████████████ | 4068/12000 [15:34<29:48, 4.43it/s]
train loss:0.006190089342213723
34%|██████████████████████████ | 4069/12000 [15:34<29:52, 4.42it/s]
train loss:0.004808581732103311
34%|██████████████████████████ | 4070/12000 [15:35<29:44, 4.44it/s]
train loss:0.011975007015329131
34%|██████████████████████████ | 4071/12000 [15:35<29:38, 4.46it/s]
train loss:0.05037388206904078
34%|██████████████████████████▏ | 4072/12000 [15:35<29:45, 4.44it/s]
train loss:0.009699077218309222
34%|██████████████████████████▏ | 4073/12000 [15:35<29:50, 4.43it/s]
train loss:0.022012410686229958
34%|██████████████████████████▏ | 4074/12000 [15:36<29:56, 4.41it/s]
train loss:0.016994257576279623
34%|██████████████████████████▏ | 4075/12000 [15:36<29:36, 4.46it/s]
train loss:0.02441990210807621
34%|██████████████████████████▏ | 4076/12000 [15:36<29:45, 4.44it/s]
train loss:0.004123259600225663
34%|██████████████████████████▏ | 4077/12000 [15:36<30:05, 4.39it/s]
train loss:0.00890047074670596
34%|██████████████████████████▏ | 4078/12000 [15:36<30:04, 4.39it/s]
train loss:0.03148177227356447
34%|██████████████████████████▏ | 4079/12000 [15:37<29:45, 4.44it/s]
train loss:0.0033006125756987726
34%|██████████████████████████▏ | 4080/12000 [15:37<29:46, 4.43it/s]
train loss:0.001425329058357132
34%|██████████████████████████▏ | 4081/12000 [15:37<29:48, 4.43it/s]
train loss:0.013758019628750822
34%|██████████████████████████▏ | 4082/12000 [15:37<29:59, 4.40it/s]
train loss:0.052900764829613964
34%|██████████████████████████▏ | 4083/12000 [15:38<29:54, 4.41it/s]
train loss:0.00853860061295861
34%|██████████████████████████▏ | 4084/12000 [15:38<29:37, 4.45it/s]
train loss:0.006598104679085416
34%|██████████████████████████▏ | 4085/12000 [15:38<29:42, 4.44it/s]
train loss:0.01885758321675534
34%|██████████████████████████▏ | 4086/12000 [15:38<29:47, 4.43it/s]
train loss:0.005391728498902627
34%|██████████████████████████▏ | 4087/12000 [15:38<29:50, 4.42it/s]
train loss:0.0025691868811084768
34%|██████████████████████████▏ | 4088/12000 [15:39<29:32, 4.46it/s]
train loss:0.013242780663589351
34%|██████████████████████████▏ | 4089/12000 [15:39<29:42, 4.44it/s]
train loss:0.02064386110750605
34%|██████████████████████████▏ | 4090/12000 [15:39<29:47, 4.43it/s]
train loss:0.008427980925508123
34%|██████████████████████████▎ | 4091/12000 [15:39<29:56, 4.40it/s]
train loss:0.017374507749603633
34%|██████████████████████████▎ | 4092/12000 [15:40<29:59, 4.39it/s]
train loss:0.0022143454001621677
34%|██████████████████████████▎ | 4093/12000 [15:40<29:49, 4.42it/s]
train loss:0.0012276217056597077
34%|██████████████████████████▎ | 4094/12000 [15:40<29:50, 4.42it/s]
train loss:0.043106606650583724
34%|██████████████████████████▎ | 4095/12000 [15:40<29:51, 4.41it/s]
train loss:0.010339050702690327
34%|██████████████████████████▎ | 4096/12000 [15:41<29:56, 4.40it/s]
train loss:0.007153069696990437
34%|██████████████████████████▎ | 4097/12000 [15:41<29:25, 4.48it/s]
train loss:0.014434891488236005
34%|██████████████████████████▎ | 4098/12000 [15:41<29:37, 4.44it/s]
train loss:0.0021620584160536452
34%|██████████████████████████▎ | 4099/12000 [15:41<29:41, 4.43it/s]
train loss:0.0200248219259778
34%|██████████████████████████▎ | 4100/12000 [15:41<30:00, 4.39it/s]
train loss:0.001252584103736637
34%|██████████████████████████▎ | 4101/12000 [15:42<29:55, 4.40it/s]
train loss:0.03527762163045885
34%|██████████████████████████▎ | 4102/12000 [15:42<29:49, 4.41it/s]
train loss:0.0014055838092468106
34%|██████████████████████████▎ | 4103/12000 [15:42<29:49, 4.41it/s]
train loss:0.01174041454516337
34%|██████████████████████████▎ | 4104/12000 [15:42<30:55, 4.26it/s]
train loss:0.0021489863524996244
34%|██████████████████████████▎ | 4105/12000 [15:43<31:31, 4.17it/s]
train loss:0.013313583230898589
34%|██████████████████████████▎ | 4106/12000 [15:43<30:51, 4.26it/s]
train loss:0.006926434530740504
34%|██████████████████████████▎ | 4107/12000 [15:43<30:45, 4.28it/s]
train loss:0.0026325581488342476
34%|██████████████████████████▎ | 4108/12000 [15:43<30:29, 4.31it/s]
train loss:0.0025675568125703057
34%|██████████████████████████▎ | 4109/12000 [15:44<30:23, 4.33it/s]
train loss:0.01185247403936651
34%|██████████████████████████▎ | 4110/12000 [15:44<29:55, 4.40it/s]
train loss:0.04225876563486215
34%|██████████████████████████▍ | 4111/12000 [15:44<29:50, 4.41it/s]
train loss:0.006194209168215225
34%|██████████████████████████▍ | 4112/12000 [15:44<29:49, 4.41it/s]
train loss:0.003102492315983522
34%|██████████████████████████▍ | 4113/12000 [15:44<29:47, 4.41it/s]
train loss:0.00032948713245720677
34%|██████████████████████████▍ | 4114/12000 [15:45<29:35, 4.44it/s]
train loss:0.025250706187670394
34%|██████████████████████████▍ | 4115/12000 [15:45<29:31, 4.45it/s]
train loss:0.03459247565175285
34%|██████████████████████████▍ | 4116/12000 [15:45<29:35, 4.44it/s]
train loss:0.004058324699035908
34%|██████████████████████████▍ | 4117/12000 [15:45<29:38, 4.43it/s]
train loss:0.006818989584352014
34%|██████████████████████████▍ | 4118/12000 [15:46<29:52, 4.40it/s]
train loss:0.008515901227436255
34%|██████████████████████████▍ | 4119/12000 [15:46<29:30, 4.45it/s]
train loss:0.041105523282034276
34%|██████████████████████████▍ | 4120/12000 [15:46<29:32, 4.45it/s]
train loss:0.007318868967277319
34%|██████████████████████████▍ | 4121/12000 [15:46<29:35, 4.44it/s]
train loss:0.007688759603291038
34%|██████████████████████████▍ | 4122/12000 [15:46<29:41, 4.42it/s]
train loss:0.00845414460450945
34%|██████████████████████████▍ | 4123/12000 [15:47<29:19, 4.48it/s]
train loss:0.009598709133819763
34%|██████████████████████████▍ | 4124/12000 [15:47<29:24, 4.46it/s]
train loss:0.0026849644040860834
34%|██████████████████████████▍ | 4125/12000 [15:47<29:27, 4.46it/s]
train loss:0.022794068131895783
34%|██████████████████████████▍ | 4126/12000 [15:47<29:34, 4.44it/s]
train loss:0.01319932989182565
34%|██████████████████████████▍ | 4127/12000 [15:48<29:34, 4.44it/s]
train loss:0.01231613646018171
34%|██████████████████████████▍ | 4128/12000 [15:48<29:22, 4.47it/s]
train loss:0.021850567299311716
34%|██████████████████████████▍ | 4129/12000 [15:48<29:31, 4.44it/s]
train loss:0.010971419419469301
34%|██████████████████████████▌ | 4130/12000 [15:48<29:46, 4.41it/s]
train loss:0.012815155026434348
34%|██████████████████████████▌ | 4131/12000 [15:48<29:51, 4.39it/s]
train loss:0.020202376959142797
34%|██████████████████████████▌ | 4132/12000 [15:49<29:24, 4.46it/s]
train loss:0.033685059493406014
34%|██████████████████████████▌ | 4133/12000 [15:49<29:27, 4.45it/s]
train loss:0.010649734383038744
34%|██████████████████████████▌ | 4134/12000 [15:49<29:36, 4.43it/s]
train loss:0.042576482784342756
34%|██████████████████████████▌ | 4135/12000 [15:49<29:37, 4.42it/s]
train loss:0.00815463825205902
34%|██████████████████████████▌ | 4136/12000 [15:50<29:49, 4.39it/s]
train loss:0.0046776032244259256
34%|██████████████████████████▌ | 4137/12000 [15:50<29:28, 4.45it/s]
train loss:0.004127840881965006
34%|██████████████████████████▌ | 4138/12000 [15:50<29:31, 4.44it/s]
train loss:0.01021729635678084
34%|██████████████████████████▌ | 4139/12000 [15:50<29:43, 4.41it/s]
train loss:0.006040873733186836
34%|██████████████████████████▌ | 4140/12000 [15:50<29:56, 4.38it/s]
train loss:0.007106098823291512
35%|██████████████████████████▌ | 4141/12000 [15:51<29:22, 4.46it/s]
train loss:0.05350866799651933
35%|██████████████████████████▌ | 4142/12000 [15:51<29:23, 4.46it/s]
train loss:0.0053424532915114864
35%|██████████████████████████▌ | 4143/12000 [15:51<29:29, 4.44it/s]
train loss:0.057293484813902486
35%|██████████████████████████▌ | 4144/12000 [15:51<29:33, 4.43it/s]
train loss:0.006154178231563719
35%|██████████████████████████▌ | 4145/12000 [15:52<29:27, 4.44it/s]
train loss:0.0030173276049867874
35%|██████████████████████████▌ | 4146/12000 [15:52<29:21, 4.46it/s]
train loss:0.02913258279756172
35%|██████████████████████████▌ | 4147/12000 [15:52<29:26, 4.44it/s]
train loss:0.0019514747880814193
35%|██████████████████████████▌ | 4148/12000 [15:52<29:34, 4.42it/s]
train loss:0.008519048945460857
35%|██████████████████████████▌ | 4149/12000 [15:53<29:38, 4.41it/s]
train loss:0.0013649016254559856
35%|██████████████████████████▋ | 4150/12000 [15:53<29:13, 4.48it/s]
train loss:0.006113688528672092
35%|██████████████████████████▋ | 4151/12000 [15:53<29:20, 4.46it/s]
train loss:0.06440797004587401
35%|██████████████████████████▋ | 4152/12000 [15:53<29:30, 4.43it/s]
train loss:0.0034966432198893127
35%|██████████████████████████▋ | 4153/12000 [15:53<29:32, 4.43it/s]
train loss:0.0030374492304658263
35%|██████████████████████████▋ | 4154/12000 [15:54<29:19, 4.46it/s]
train loss:0.00838528938563088
35%|██████████████████████████▋ | 4155/12000 [15:54<29:18, 4.46it/s]
train loss:0.037419636759251015
35%|██████████████████████████▋ | 4156/12000 [15:54<29:27, 4.44it/s]
train loss:0.021583409428258378
35%|██████████████████████████▋ | 4157/12000 [15:54<29:38, 4.41it/s]
train loss:0.017842102003918055
35%|██████████████████████████▋ | 4158/12000 [15:55<29:40, 4.40it/s]
train loss:0.005392968432053011
35%|██████████████████████████▋ | 4159/12000 [15:55<29:24, 4.44it/s]
train loss:0.010971175778747391
35%|██████████████████████████▋ | 4160/12000 [15:55<29:28, 4.43it/s]
train loss:0.001798425139663694
35%|██████████████████████████▋ | 4161/12000 [15:55<29:32, 4.42it/s]
train loss:0.012474659997179166
35%|██████████████████████████▋ | 4162/12000 [15:55<29:32, 4.42it/s]
train loss:0.00921449522738949
35%|██████████████████████████▋ | 4163/12000 [15:56<29:12, 4.47it/s]
train loss:0.0133453294270855
35%|██████████████████████████▋ | 4164/12000 [15:56<29:21, 4.45it/s]
train loss:0.01378856833271474
35%|██████████████████████████▋ | 4165/12000 [15:56<29:25, 4.44it/s]
train loss:0.03440790925146088
35%|██████████████████████████▋ | 4166/12000 [15:56<29:27, 4.43it/s]
train loss:0.011856751420908087
35%|██████████████████████████▋ | 4167/12000 [15:57<29:24, 4.44it/s]
train loss:0.0073241564178648634
35%|██████████████████████████▋ | 4168/12000 [15:57<29:16, 4.46it/s]
train loss:0.01876811107237971
35%|██████████████████████████▊ | 4169/12000 [15:57<29:29, 4.43it/s]
train loss:0.015256909737888236
35%|██████████████████████████▊ | 4170/12000 [15:57<29:33, 4.42it/s]
train loss:0.025934865820257613
35%|██████████████████████████▊ | 4171/12000 [15:57<29:37, 4.40it/s]
train loss:0.02141229451716015
35%|██████████████████████████▊ | 4172/12000 [15:58<29:35, 4.41it/s]
train loss:0.00539886878637551
35%|██████████████████████████▊ | 4173/12000 [15:58<29:46, 4.38it/s]
train loss:0.015358638911050987
35%|██████████████████████████▊ | 4174/12000 [15:58<29:48, 4.38it/s]
train loss:0.019356157029288338
35%|██████████████████████████▊ | 4175/12000 [15:58<29:44, 4.39it/s]
train loss:0.01561924078840904
35%|██████████████████████████▊ | 4176/12000 [15:59<29:37, 4.40it/s]
train loss:0.01986931290274827
35%|██████████████████████████▊ | 4177/12000 [15:59<29:31, 4.42it/s]
train loss:0.003320949658649623
35%|██████████████████████████▊ | 4178/12000 [15:59<29:33, 4.41it/s]
train loss:0.019324434408568857
35%|██████████████████████████▊ | 4179/12000 [15:59<29:55, 4.36it/s]
train loss:0.02214831668989481
35%|██████████████████████████▊ | 4180/12000 [16:00<29:54, 4.36it/s]
train loss:0.009609444577163178
35%|██████████████████████████▊ | 4181/12000 [16:00<30:44, 4.24it/s]
train loss:0.005544463211376867
35%|██████████████████████████▊ | 4182/12000 [16:00<30:27, 4.28it/s]
train loss:0.011166302411841834
35%|██████████████████████████▊ | 4183/12000 [16:00<30:12, 4.31it/s]
train loss:0.006043220513536796
35%|██████████████████████████▊ | 4184/12000 [16:00<30:08, 4.32it/s]
train loss:0.02039442533894461
35%|██████████████████████████▊ | 4185/12000 [16:01<30:19, 4.29it/s]
train loss:0.026404394914404085
35%|██████████████████████████▊ | 4186/12000 [16:01<30:12, 4.31it/s]
train loss:0.01666368839573706
35%|██████████████████████████▊ | 4187/12000 [16:01<30:11, 4.31it/s]
train loss:0.005907606103075704
35%|██████████████████████████▊ | 4188/12000 [16:01<30:10, 4.32it/s]
train loss:0.0023127743851714703
35%|██████████████████████████▉ | 4189/12000 [16:02<29:53, 4.36it/s]
train loss:0.0028368754337500506
35%|██████████████████████████▉ | 4190/12000 [16:02<29:43, 4.38it/s]
train loss:0.002949869983260272
35%|██████████████████████████▉ | 4191/12000 [16:02<29:50, 4.36it/s]
train loss:0.00664375831406789
35%|██████████████████████████▉ | 4192/12000 [16:02<29:50, 4.36it/s]
train loss:0.007534546333553199
35%|██████████████████████████▉ | 4193/12000 [16:03<29:57, 4.34it/s]
train loss:0.004258023831715923
35%|██████████████████████████▉ | 4194/12000 [16:03<29:36, 4.39it/s]
train loss:0.005946686629876111
35%|██████████████████████████▉ | 4195/12000 [16:03<29:43, 4.38it/s]
train loss:0.006622501373912083
35%|██████████████████████████▉ | 4196/12000 [16:03<29:42, 4.38it/s]
train loss:0.0067917826985330245
35%|██████████████████████████▉ | 4197/12000 [16:04<31:53, 4.08it/s]
train loss:0.015685799807413275
35%|██████████████████████████▉ | 4198/12000 [16:04<33:06, 3.93it/s]
train loss:0.01234410428785375
35%|██████████████████████████▉ | 4199/12000 [16:04<34:07, 3.81it/s]
train loss:0.002208009425875723
35%|██████████████████████████▉ | 4200/12000 [16:04<33:38, 3.86it/s]
train loss:0.07403573667327908 train loss:0.018077534499653415
35%|██████████████████████████▎ | 4201/12000 [16:06<1:33:52, 1.38it/s]
=== epoch:8, train acc:0.991, test acc:0.991 ===
35%|██████████████████████████▎ | 4202/12000 [16:06<1:15:37, 1.72it/s]
train loss:0.005182274407783592
35%|██████████████████████████▎ | 4203/12000 [16:07<1:01:57, 2.10it/s]
train loss:0.005723521277575396
35%|██████████████████████████▉ | 4204/12000 [16:07<53:59, 2.41it/s]
train loss:0.00549677150412348
35%|██████████████████████████▉ | 4205/12000 [16:07<46:39, 2.78it/s]
train loss:0.024440707543022713
35%|██████████████████████████▉ | 4206/12000 [16:07<42:09, 3.08it/s]
train loss:0.005443450661188141
35%|██████████████████████████▉ | 4207/12000 [16:08<38:27, 3.38it/s]
train loss:0.009684473389433058
35%|███████████████████████████ | 4208/12000 [16:08<35:34, 3.65it/s]
train loss:0.010169359826858817
35%|███████████████████████████ | 4209/12000 [16:08<33:51, 3.83it/s]
train loss:0.0019003151914282262
35%|███████████████████████████ | 4210/12000 [16:08<32:36, 3.98it/s]
train loss:0.005928001586134867
35%|███████████████████████████ | 4211/12000 [16:08<31:47, 4.08it/s]
train loss:0.015062505621445904
35%|███████████████████████████ | 4212/12000 [16:09<30:44, 4.22it/s]
train loss:0.00674682061727501
35%|███████████████████████████ | 4213/12000 [16:09<30:21, 4.28it/s]
train loss:0.0054018870197822975
35%|███████████████████████████ | 4214/12000 [16:09<30:06, 4.31it/s]
train loss:0.014356551186782019
35%|███████████████████████████ | 4215/12000 [16:09<29:55, 4.34it/s]
train loss:0.017863573600625657
35%|███████████████████████████ | 4216/12000 [16:10<29:58, 4.33it/s]
train loss:0.0016101678098276143
35%|███████████████████████████ | 4217/12000 [16:10<29:38, 4.38it/s]
train loss:0.016385188072379736
35%|███████████████████████████ | 4218/12000 [16:10<29:34, 4.39it/s]
train loss:0.027775007444085443
35%|███████████████████████████ | 4219/12000 [16:10<29:32, 4.39it/s]
train loss:0.01740504496251632
35%|███████████████████████████ | 4220/12000 [16:11<29:39, 4.37it/s]
train loss:0.014951495174414586
35%|███████████████████████████ | 4221/12000 [16:11<29:16, 4.43it/s]
train loss:0.004325283415556332
35%|███████████████████████████ | 4222/12000 [16:11<29:21, 4.41it/s]
train loss:0.016250993541063175
35%|███████████████████████████ | 4223/12000 [16:11<30:46, 4.21it/s]
train loss:0.017216261098643305
35%|███████████████████████████ | 4224/12000 [16:11<30:20, 4.27it/s]
train loss:0.03307689317484411
35%|███████████████████████████ | 4225/12000 [16:12<30:41, 4.22it/s]
train loss:0.017411532697759226
35%|███████████████████████████ | 4226/12000 [16:12<30:16, 4.28it/s]
train loss:0.004041105893000592
35%|███████████████████████████ | 4227/12000 [16:12<30:06, 4.30it/s]
train loss:0.019371851233288537
35%|███████████████████████████▏ | 4228/12000 [16:12<29:55, 4.33it/s]
train loss:0.036180860596516165
35%|███████████████████████████▏ | 4229/12000 [16:13<29:34, 4.38it/s]
train loss:0.008026586272746328
35%|███████████████████████████▏ | 4230/12000 [16:13<29:22, 4.41it/s]
train loss:0.02469906267072056
35%|███████████████████████████▏ | 4231/12000 [16:13<29:24, 4.40it/s]
train loss:0.005885742041794747
35%|███████████████████████████▏ | 4232/12000 [16:13<29:27, 4.39it/s]
train loss:0.047657582248002706
35%|███████████████████████████▏ | 4233/12000 [16:14<30:10, 4.29it/s]
train loss:0.015268639902943477
35%|███████████████████████████▏ | 4234/12000 [16:14<29:40, 4.36it/s]
train loss:0.005215628821943488
35%|███████████████████████████▏ | 4235/12000 [16:14<29:36, 4.37it/s]
train loss:0.06711889930443747
35%|███████████████████████████▏ | 4236/12000 [16:14<29:47, 4.34it/s]
train loss:0.01057819427739518
35%|███████████████████████████▏ | 4237/12000 [16:14<30:34, 4.23it/s]
train loss:0.011470841739753818
35%|███████████████████████████▏ | 4238/12000 [16:15<29:44, 4.35it/s]
train loss:0.003786000060133771
35%|███████████████████████████▏ | 4239/12000 [16:15<30:51, 4.19it/s]
train loss:0.011307931652732296
35%|███████████████████████████▏ | 4240/12000 [16:15<30:22, 4.26it/s]
train loss:0.015815891722042716
35%|███████████████████████████▏ | 4241/12000 [16:15<30:05, 4.30it/s]
train loss:0.03638209964723005
35%|███████████████████████████▏ | 4242/12000 [16:16<29:36, 4.37it/s]
train loss:0.0027285844255109915
35%|███████████████████████████▏ | 4243/12000 [16:16<29:27, 4.39it/s]
train loss:0.0130236431464582
35%|███████████████████████████▏ | 4244/12000 [16:16<29:27, 4.39it/s]
train loss:0.013187337791314237
35%|███████████████████████████▏ | 4245/12000 [16:16<30:16, 4.27it/s]
train loss:0.006480505501091277
35%|███████████████████████████▏ | 4246/12000 [16:17<29:53, 4.32it/s]
train loss:0.0019519737953650556
35%|███████████████████████████▎ | 4247/12000 [16:17<29:27, 4.39it/s]
train loss:0.03451709028214488
35%|███████████████████████████▎ | 4248/12000 [16:17<29:33, 4.37it/s]
train loss:0.023400361096260626
35%|███████████████████████████▎ | 4249/12000 [16:17<29:34, 4.37it/s]
train loss:0.031259919414098225
35%|███████████████████████████▎ | 4250/12000 [16:17<29:28, 4.38it/s]
train loss:0.002740402863074103
35%|███████████████████████████▎ | 4251/12000 [16:18<29:02, 4.45it/s]
train loss:0.012649356270215732
35%|███████████████████████████▎ | 4252/12000 [16:18<29:09, 4.43it/s]
train loss:0.02697016952818855
35%|███████████████████████████▎ | 4253/12000 [16:18<29:09, 4.43it/s]
train loss:0.01286948911659853
35%|███████████████████████████▎ | 4254/12000 [16:18<29:15, 4.41it/s]
train loss:0.0016362193062380095
35%|███████████████████████████▎ | 4255/12000 [16:19<29:16, 4.41it/s]
train loss:0.029655240471295287
35%|███████████████████████████▎ | 4256/12000 [16:19<29:03, 4.44it/s]
train loss:0.0092138748548573
35%|███████████████████████████▎ | 4257/12000 [16:19<29:11, 4.42it/s]
train loss:0.005807114286863021
35%|███████████████████████████▎ | 4258/12000 [16:19<29:12, 4.42it/s]
train loss:0.007249583126583104
35%|███████████████████████████▎ | 4259/12000 [16:19<29:14, 4.41it/s]
train loss:0.014366666690486966
36%|███████████████████████████▎ | 4260/12000 [16:20<28:47, 4.48it/s]
train loss:0.013548390903270377
36%|███████████████████████████▎ | 4261/12000 [16:20<28:52, 4.47it/s]
train loss:0.004423263617867356
36%|███████████████████████████▎ | 4262/12000 [16:20<29:02, 4.44it/s]
train loss:0.026618115674282926
36%|███████████████████████████▎ | 4263/12000 [16:20<29:11, 4.42it/s]
train loss:0.004144118700302458
36%|███████████████████████████▎ | 4264/12000 [16:21<29:00, 4.45it/s]
train loss:0.0037003871886406477
36%|███████████████████████████▎ | 4265/12000 [16:21<28:58, 4.45it/s]
train loss:0.034620903648448886
36%|███████████████████████████▎ | 4266/12000 [16:21<29:18, 4.40it/s]
train loss:0.01103446499864956
36%|███████████████████████████▍ | 4267/12000 [16:21<29:12, 4.41it/s]
train loss:0.005628859482813037
36%|███████████████████████████▍ | 4268/12000 [16:22<29:21, 4.39it/s]
train loss:0.004638831153610109
36%|███████████████████████████▍ | 4269/12000 [16:22<28:51, 4.46it/s]
train loss:0.009788602317396452
36%|███████████████████████████▍ | 4270/12000 [16:22<28:56, 4.45it/s]
train loss:0.016351307761745072
36%|███████████████████████████▍ | 4271/12000 [16:22<29:01, 4.44it/s]
train loss:0.004195348527204486
36%|███████████████████████████▍ | 4272/12000 [16:22<29:05, 4.43it/s]
train loss:0.013223615685282837
36%|███████████████████████████▍ | 4273/12000 [16:23<28:53, 4.46it/s]
train loss:0.01364547994692631
36%|███████████████████████████▍ | 4274/12000 [16:23<28:51, 4.46it/s]
train loss:0.01045036927908983
36%|███████████████████████████▍ | 4275/12000 [16:23<28:56, 4.45it/s]
train loss:0.0033653627642278522
36%|███████████████████████████▍ | 4276/12000 [16:23<29:02, 4.43it/s]
train loss:0.01552349193569265
36%|███████████████████████████▍ | 4277/12000 [16:24<29:06, 4.42it/s]
train loss:0.015002220422531442
36%|███████████████████████████▍ | 4278/12000 [16:24<28:49, 4.47it/s]
train loss:0.003582050411538681
36%|███████████████████████████▍ | 4279/12000 [16:24<28:54, 4.45it/s]
train loss:0.007920144265214014
36%|███████████████████████████▍ | 4280/12000 [16:24<28:58, 4.44it/s]
train loss:0.01225047788710383
36%|███████████████████████████▍ | 4281/12000 [16:24<29:01, 4.43it/s]
train loss:0.0041464121652611515
36%|███████████████████████████▍ | 4282/12000 [16:25<28:42, 4.48it/s]
train loss:0.00419892200304606
36%|███████████████████████████▍ | 4283/12000 [16:25<28:49, 4.46it/s]
train loss:0.11347581571282954
36%|███████████████████████████▍ | 4284/12000 [16:25<28:59, 4.43it/s]
train loss:0.004702112520899924
36%|███████████████████████████▍ | 4285/12000 [16:25<29:01, 4.43it/s]
train loss:0.014302814692254058
36%|███████████████████████████▌ | 4286/12000 [16:26<29:05, 4.42it/s]
train loss:0.005353041150322232
36%|███████████████████████████▌ | 4287/12000 [16:26<28:56, 4.44it/s]
train loss:0.010483978912769205
36%|███████████████████████████▌ | 4288/12000 [16:26<29:01, 4.43it/s]
train loss:0.0021369287422305385
36%|███████████████████████████▌ | 4289/12000 [16:26<29:01, 4.43it/s]
train loss:0.0026414336155010042
36%|███████████████████████████▌ | 4290/12000 [16:26<29:04, 4.42it/s]
train loss:0.00736193157994668
36%|███████████████████████████▌ | 4291/12000 [16:27<28:41, 4.48it/s]
train loss:0.009656258611274903
36%|███████████████████████████▌ | 4292/12000 [16:27<28:50, 4.45it/s]
train loss:0.0009664798537689237
36%|███████████████████████████▌ | 4293/12000 [16:27<28:53, 4.45it/s]
train loss:0.00887277668172551
36%|███████████████████████████▌ | 4294/12000 [16:27<28:53, 4.44it/s]
train loss:0.006694387414997597
36%|███████████████████████████▌ | 4295/12000 [16:28<29:19, 4.38it/s]
train loss:0.03592113932851949
36%|███████████████████████████▌ | 4296/12000 [16:28<29:08, 4.41it/s]
train loss:0.009434573032360553
36%|███████████████████████████▌ | 4297/12000 [16:28<29:13, 4.39it/s]
train loss:0.008596419107142482
36%|███████████████████████████▌ | 4298/12000 [16:28<29:11, 4.40it/s]
train loss:0.010694576669291642
36%|███████████████████████████▌ | 4299/12000 [16:29<29:08, 4.40it/s]
train loss:0.007168580470039081
36%|███████████████████████████▌ | 4300/12000 [16:29<28:46, 4.46it/s]
train loss:0.014568301976989752
36%|███████████████████████████▌ | 4301/12000 [16:29<28:55, 4.44it/s]
train loss:0.01306304941604229
36%|███████████████████████████▌ | 4302/12000 [16:29<29:09, 4.40it/s]
train loss:0.016457929695471343
36%|███████████████████████████▌ | 4303/12000 [16:29<29:07, 4.40it/s]
train loss:0.0016833424955321591
36%|███████████████████████████▌ | 4304/12000 [16:30<28:56, 4.43it/s]
train loss:0.009817706076316464
36%|███████████████████████████▌ | 4305/12000 [16:30<29:03, 4.41it/s]
train loss:0.00338960236263393
36%|███████████████████████████▋ | 4306/12000 [16:30<29:16, 4.38it/s]
train loss:0.003941398062628401
36%|███████████████████████████▋ | 4307/12000 [16:30<29:11, 4.39it/s]
train loss:0.018447829678442537
36%|███████████████████████████▋ | 4308/12000 [16:31<29:15, 4.38it/s]
train loss:0.003779903294308384
36%|███████████████████████████▋ | 4309/12000 [16:31<28:57, 4.43it/s]
train loss:0.002791992362854198
36%|███████████████████████████▋ | 4310/12000 [16:31<28:58, 4.42it/s]
train loss:0.0026354608130132557
36%|███████████████████████████▋ | 4311/12000 [16:31<29:01, 4.41it/s]
train loss:0.007677675368524566
36%|███████████████████████████▋ | 4312/12000 [16:31<29:17, 4.37it/s]
train loss:0.0148864184238765
36%|███████████████████████████▋ | 4313/12000 [16:32<28:49, 4.44it/s]
train loss:0.002654676419921661
36%|███████████████████████████▋ | 4314/12000 [16:32<28:56, 4.43it/s]
train loss:0.013292896550706021
36%|███████████████████████████▋ | 4315/12000 [16:32<28:57, 4.42it/s]
train loss:0.005996602924274382
36%|███████████████████████████▋ | 4316/12000 [16:32<29:02, 4.41it/s]
train loss:0.030559832104402246
36%|███████████████████████████▋ | 4317/12000 [16:33<29:01, 4.41it/s]
train loss:0.023927127013925725
36%|███████████████████████████▋ | 4318/12000 [16:33<28:47, 4.45it/s]
train loss:0.011942227089671553
36%|███████████████████████████▋ | 4319/12000 [16:33<28:52, 4.43it/s]
train loss:0.00989362574918447
36%|███████████████████████████▋ | 4320/12000 [16:33<28:55, 4.43it/s]
train loss:0.017478212353560098
36%|███████████████████████████▋ | 4321/12000 [16:33<29:02, 4.41it/s]
train loss:0.023684992532110916
36%|███████████████████████████▋ | 4322/12000 [16:34<28:43, 4.45it/s]
train loss:0.006348716233149846
36%|███████████████████████████▋ | 4323/12000 [16:34<28:49, 4.44it/s]
train loss:0.031043435515723937
36%|███████████████████████████▋ | 4324/12000 [16:34<28:55, 4.42it/s]
train loss:0.006682259505481165
36%|███████████████████████████▊ | 4325/12000 [16:34<28:55, 4.42it/s]
train loss:0.008263055530095384
36%|███████████████████████████▊ | 4326/12000 [16:35<28:46, 4.45it/s]
train loss:0.0007100929706116733
36%|███████████████████████████▊ | 4327/12000 [16:35<28:45, 4.45it/s]
train loss:0.001271483808716677
36%|███████████████████████████▊ | 4328/12000 [16:35<28:58, 4.41it/s]
train loss:0.008765673358034054
36%|███████████████████████████▊ | 4329/12000 [16:35<29:15, 4.37it/s]
train loss:0.013323600843273836
36%|███████████████████████████▊ | 4330/12000 [16:36<29:20, 4.36it/s]
train loss:0.01271820586314641
36%|███████████████████████████▊ | 4331/12000 [16:36<29:02, 4.40it/s]
train loss:0.011354306250610355
36%|███████████████████████████▊ | 4332/12000 [16:36<29:11, 4.38it/s]
train loss:0.010313209628784414
36%|███████████████████████████▊ | 4333/12000 [16:36<29:29, 4.33it/s]
train loss:0.01331185881051669
36%|███████████████████████████▊ | 4334/12000 [16:36<29:23, 4.35it/s]
train loss:0.01198328244008769
36%|███████████████████████████▊ | 4335/12000 [16:37<28:59, 4.41it/s]
train loss:0.007970733995184161
36%|███████████████████████████▊ | 4336/12000 [16:37<29:05, 4.39it/s]
train loss:0.006937864369611615
36%|███████████████████████████▊ | 4337/12000 [16:37<29:09, 4.38it/s]
train loss:0.00790724668544251
36%|███████████████████████████▊ | 4338/12000 [16:37<29:11, 4.38it/s]
train loss:0.005765823757739502
36%|███████████████████████████▊ | 4339/12000 [16:38<29:06, 4.39it/s]
train loss:0.012797064083907897
36%|███████████████████████████▊ | 4340/12000 [16:38<28:46, 4.44it/s]
train loss:0.002141413908383922
36%|███████████████████████████▊ | 4341/12000 [16:38<29:04, 4.39it/s]
train loss:0.00535215601283021
36%|███████████████████████████▊ | 4342/12000 [16:38<28:58, 4.40it/s]
train loss:0.050592467035405736
36%|███████████████████████████▊ | 4343/12000 [16:38<28:58, 4.40it/s]
train loss:0.019341014824541397
36%|███████████████████████████▊ | 4344/12000 [16:39<28:45, 4.44it/s]
train loss:0.025905513251796086
36%|███████████████████████████▉ | 4345/12000 [16:39<28:49, 4.43it/s]
train loss:0.00711372359079872
36%|███████████████████████████▉ | 4346/12000 [16:39<28:51, 4.42it/s]
train loss:0.0022826789457809716
36%|███████████████████████████▉ | 4347/12000 [16:39<28:51, 4.42it/s]
train loss:0.011676036299287724
36%|███████████████████████████▉ | 4348/12000 [16:40<28:45, 4.43it/s]
train loss:0.006303846908623972
36%|███████████████████████████▉ | 4349/12000 [16:40<28:39, 4.45it/s]
train loss:0.013118717850431068
36%|███████████████████████████▉ | 4350/12000 [16:40<28:44, 4.44it/s]
train loss:0.003767231561888204
36%|███████████████████████████▉ | 4351/12000 [16:40<28:47, 4.43it/s]
train loss:0.045265064818747494
36%|███████████████████████████▉ | 4352/12000 [16:41<28:52, 4.41it/s]
train loss:0.002357416682543641
36%|███████████████████████████▉ | 4353/12000 [16:41<28:43, 4.44it/s]
train loss:0.032749016575115794
36%|███████████████████████████▉ | 4354/12000 [16:41<28:47, 4.43it/s]
train loss:0.0007691440948379419
36%|███████████████████████████▉ | 4355/12000 [16:41<28:55, 4.40it/s]
train loss:0.009876483881870585
36%|███████████████████████████▉ | 4356/12000 [16:41<28:54, 4.41it/s]
train loss:0.0032263169492826533
36%|███████████████████████████▉ | 4357/12000 [16:42<28:32, 4.46it/s]
train loss:0.007466647496658691
36%|███████████████████████████▉ | 4358/12000 [16:42<28:35, 4.45it/s]
train loss:0.009870433293730075
36%|███████████████████████████▉ | 4359/12000 [16:42<28:40, 4.44it/s]
train loss:0.011975194391012306
36%|███████████████████████████▉ | 4360/12000 [16:42<28:49, 4.42it/s]
train loss:0.01076079785065437
36%|███████████████████████████▉ | 4361/12000 [16:43<28:51, 4.41it/s]
train loss:0.01505475769597614
36%|███████████████████████████▉ | 4362/12000 [16:43<28:37, 4.45it/s]
train loss:0.015555056293377395
36%|███████████████████████████▉ | 4363/12000 [16:43<28:55, 4.40it/s]
train loss:0.009223219446862234
36%|████████████████████████████ | 4364/12000 [16:43<28:56, 4.40it/s]
train loss:0.0007451215639419172
36%|████████████████████████████ | 4365/12000 [16:43<28:57, 4.39it/s]
train loss:0.007640435376966799
36%|████████████████████████████ | 4366/12000 [16:44<28:38, 4.44it/s]
train loss:0.031311984156360474
36%|████████████████████████████ | 4367/12000 [16:44<28:45, 4.42it/s]
train loss:0.00656518137622714
36%|████████████████████████████ | 4368/12000 [16:44<28:43, 4.43it/s]
train loss:0.004764862092945674
36%|████████████████████████████ | 4369/12000 [16:44<28:47, 4.42it/s]
train loss:0.008473350581419875
36%|████████████████████████████ | 4370/12000 [16:45<28:42, 4.43it/s]
train loss:0.002059732131963226
36%|████████████████████████████ | 4371/12000 [16:45<28:37, 4.44it/s]
train loss:0.007951227476751786
36%|████████████████████████████ | 4372/12000 [16:45<28:44, 4.42it/s]
train loss:0.017424070163193407
36%|████████████████████████████ | 4373/12000 [16:45<28:46, 4.42it/s]
train loss:0.003637088365747219
36%|████████████████████████████ | 4374/12000 [16:45<29:06, 4.37it/s]
train loss:0.033278152415783066
36%|████████████████████████████ | 4375/12000 [16:46<29:37, 4.29it/s]
train loss:0.026383645904040253
36%|████████████████████████████ | 4376/12000 [16:46<29:21, 4.33it/s]
train loss:0.006318346968366204
36%|████████████████████████████ | 4377/12000 [16:46<29:10, 4.36it/s]
train loss:0.00982127045676786
36%|████████████████████████████ | 4378/12000 [16:46<29:03, 4.37it/s]
train loss:0.007223608857220298
36%|████████████████████████████ | 4379/12000 [16:47<28:33, 4.45it/s]
train loss:0.005092341109467868
36%|████████████████████████████ | 4380/12000 [16:47<28:41, 4.43it/s]
train loss:0.0063916018064460655
37%|████████████████████████████ | 4381/12000 [16:47<28:43, 4.42it/s]
train loss:0.0017914051023192215
37%|████████████████████████████ | 4382/12000 [16:47<28:42, 4.42it/s]
train loss:0.008789101670545764
37%|████████████████████████████ | 4383/12000 [16:48<29:01, 4.37it/s]
train loss:0.0006499819470760217
37%|████████████████████████████▏ | 4384/12000 [16:48<28:45, 4.41it/s]
train loss:0.0020052243095054208
37%|████████████████████████████▏ | 4385/12000 [16:48<28:49, 4.40it/s]
train loss:0.015445642946353432
37%|████████████████████████████▏ | 4386/12000 [16:48<28:47, 4.41it/s]
train loss:0.004583084992228325
37%|████████████████████████████▏ | 4387/12000 [16:48<28:48, 4.40it/s]
train loss:0.051306103871447385
37%|████████████████████████████▏ | 4388/12000 [16:49<28:32, 4.44it/s]
train loss:0.0031490867749568554
37%|████████████████████████████▏ | 4389/12000 [16:49<28:38, 4.43it/s]
train loss:0.02343145652905567
37%|████████████████████████████▏ | 4390/12000 [16:49<28:46, 4.41it/s]
train loss:0.016002304392372702
37%|████████████████████████████▏ | 4391/12000 [16:49<28:45, 4.41it/s]
train loss:0.004287866477118954
37%|████████████████████████████▏ | 4392/12000 [16:50<28:51, 4.39it/s]
train loss:0.004206255893572913
37%|████████████████████████████▏ | 4393/12000 [16:50<28:37, 4.43it/s]
train loss:0.013345026102900417
37%|████████████████████████████▏ | 4394/12000 [16:50<28:38, 4.43it/s]
train loss:0.010401549241535878
37%|████████████████████████████▏ | 4395/12000 [16:50<28:46, 4.41it/s]
train loss:0.011565955175199216
37%|████████████████████████████▏ | 4397/12000 [16:51<28:02, 4.52it/s]
train loss:0.002947932943826385 train loss:0.014123008963064246
37%|████████████████████████████▏ | 4398/12000 [16:51<28:37, 4.43it/s]
train loss:0.01525128789877586
37%|████████████████████████████▏ | 4399/12000 [16:51<28:39, 4.42it/s]
train loss:0.005521755131965642
37%|████████████████████████████▏ | 4400/12000 [16:51<28:50, 4.39it/s]
train loss:0.03412769996501762
37%|████████████████████████████▏ | 4401/12000 [16:52<28:39, 4.42it/s]
train loss:0.0032295466870834867
37%|████████████████████████████▏ | 4402/12000 [16:52<28:34, 4.43it/s]
train loss:0.0021690328793845413
37%|████████████████████████████▎ | 4403/12000 [16:52<28:47, 4.40it/s]
train loss:0.0701768337796025
37%|████████████████████████████▎ | 4404/12000 [16:52<29:03, 4.36it/s]
train loss:0.0077726649087701185
37%|████████████████████████████▎ | 4405/12000 [16:53<29:04, 4.35it/s]
train loss:0.003233706976156516
37%|████████████████████████████▎ | 4406/12000 [16:53<28:52, 4.38it/s]
train loss:0.013802902047488502
37%|████████████████████████████▎ | 4407/12000 [16:53<28:55, 4.38it/s]
train loss:0.015855314385051097
37%|████████████████████████████▎ | 4408/12000 [16:53<28:52, 4.38it/s]
train loss:0.005254933762976723
37%|████████████████████████████▎ | 4409/12000 [16:53<29:01, 4.36it/s]
train loss:0.028961829597572382
37%|████████████████████████████▎ | 4410/12000 [16:54<28:35, 4.42it/s]
train loss:0.004509003690662859
37%|████████████████████████████▎ | 4411/12000 [16:54<28:39, 4.41it/s]
train loss:0.015347473270883136
37%|████████████████████████████▎ | 4412/12000 [16:54<28:57, 4.37it/s]
train loss:0.005316912710995693
37%|████████████████████████████▎ | 4413/12000 [16:54<28:57, 4.37it/s]
train loss:0.05788480057447073
37%|████████████████████████████▎ | 4414/12000 [16:55<28:51, 4.38it/s]
train loss:0.007935085014783133
37%|████████████████████████████▎ | 4415/12000 [16:55<28:38, 4.41it/s]
train loss:0.056245494893321826
37%|████████████████████████████▎ | 4416/12000 [16:55<28:44, 4.40it/s]
train loss:0.01690518666649656
37%|████████████████████████████▎ | 4417/12000 [16:55<28:46, 4.39it/s]
train loss:0.038895266834521644
37%|████████████████████████████▎ | 4418/12000 [16:55<28:52, 4.38it/s]
train loss:0.00522472054711583
37%|████████████████████████████▎ | 4419/12000 [16:56<28:20, 4.46it/s]
train loss:0.013782456820735098
37%|████████████████████████████▎ | 4420/12000 [16:56<28:32, 4.43it/s]
train loss:0.011075735936821991
37%|████████████████████████████▎ | 4421/12000 [16:56<28:30, 4.43it/s]
train loss:0.00622264659342162
37%|████████████████████████████▎ | 4422/12000 [16:56<28:31, 4.43it/s]
train loss:0.008324125359535384
37%|████████████████████████████▍ | 4423/12000 [16:57<28:24, 4.45it/s]
train loss:0.034232626820339104
37%|████████████████████████████▍ | 4424/12000 [16:57<28:20, 4.46it/s]
train loss:0.012771392828333354
37%|████████████████████████████▍ | 4425/12000 [16:57<28:25, 4.44it/s]
train loss:0.0008629772217621085
37%|████████████████████████████▍ | 4426/12000 [16:57<28:28, 4.43it/s]
train loss:0.006843575425454195
37%|████████████████████████████▍ | 4427/12000 [16:58<28:43, 4.39it/s]
train loss:0.010982594445728714
37%|████████████████████████████▍ | 4428/12000 [16:58<28:19, 4.46it/s]
train loss:0.003936584870728373
37%|████████████████████████████▍ | 4429/12000 [16:58<28:24, 4.44it/s]
train loss:0.016006233548826278
37%|████████████████████████████▍ | 4430/12000 [16:58<28:31, 4.42it/s]
train loss:0.005526050872748316
37%|████████████████████████████▍ | 4431/12000 [16:58<28:37, 4.41it/s]
train loss:0.028251302812115346
37%|████████████████████████████▍ | 4432/12000 [16:59<28:30, 4.43it/s]
train loss:0.003864523561573009
37%|████████████████████████████▍ | 4433/12000 [16:59<28:21, 4.45it/s]
train loss:0.004266243260595417
37%|████████████████████████████▍ | 4434/12000 [16:59<28:28, 4.43it/s]
train loss:0.010332692938358175
37%|████████████████████████████▍ | 4435/12000 [16:59<28:29, 4.43it/s]
train loss:0.01735715619986728
37%|████████████████████████████▍ | 4436/12000 [17:00<28:28, 4.43it/s]
train loss:0.007672379455076309
37%|████████████████████████████▍ | 4437/12000 [17:00<28:12, 4.47it/s]
train loss:0.033922708477891354
37%|████████████████████████████▍ | 4438/12000 [17:00<28:17, 4.45it/s]
train loss:0.017392001492045776
37%|████████████████████████████▍ | 4439/12000 [17:00<28:21, 4.44it/s]
train loss:0.056171522816775656
37%|████████████████████████████▍ | 4440/12000 [17:00<28:24, 4.43it/s]
train loss:0.010088584416243877
37%|████████████████████████████▍ | 4441/12000 [17:01<28:06, 4.48it/s]
train loss:0.0014953289067561157
37%|████████████████████████████▌ | 4442/12000 [17:01<28:11, 4.47it/s]
train loss:0.007539910891856029
37%|████████████████████████████▌ | 4443/12000 [17:01<28:17, 4.45it/s]
train loss:0.009625239617999154
37%|████████████████████████████▌ | 4444/12000 [17:01<28:19, 4.45it/s]
train loss:0.014226475338823565
37%|████████████████████████████▌ | 4445/12000 [17:02<28:20, 4.44it/s]
train loss:0.004694331505026042
37%|████████████████████████████▌ | 4446/12000 [17:02<28:06, 4.48it/s]
train loss:0.007536632272484987
37%|████████████████████████████▌ | 4447/12000 [17:02<28:14, 4.46it/s]
train loss:0.012857307295629119
37%|████████████████████████████▌ | 4448/12000 [17:02<28:18, 4.45it/s]
train loss:0.0026626686821780697
37%|████████████████████████████▌ | 4449/12000 [17:02<28:18, 4.45it/s]
train loss:0.01460391620454926
37%|████████████████████████████▌ | 4450/12000 [17:03<28:07, 4.47it/s]
train loss:0.01816003931734341
37%|████████████████████████████▌ | 4451/12000 [17:03<28:12, 4.46it/s]
train loss:0.00590659723838609
37%|████████████████████████████▌ | 4452/12000 [17:03<28:14, 4.45it/s]
train loss:0.003069897360335197
37%|████████████████████████████▌ | 4453/12000 [17:03<28:16, 4.45it/s]
train loss:0.006254575681562898
37%|████████████████████████████▌ | 4454/12000 [17:04<28:15, 4.45it/s]
train loss:0.005199162668756374
37%|████████████████████████████▌ | 4455/12000 [17:04<28:12, 4.46it/s]
train loss:0.005090148624519049
37%|████████████████████████████▌ | 4456/12000 [17:04<28:17, 4.44it/s]
train loss:0.045931988896330316
37%|████████████████████████████▌ | 4457/12000 [17:04<28:18, 4.44it/s]
train loss:0.002397568691327264
37%|████████████████████████████▌ | 4458/12000 [17:04<28:34, 4.40it/s]
train loss:0.004726444714146301
37%|████████████████████████████▌ | 4459/12000 [17:05<28:04, 4.48it/s]
train loss:0.0009229026176560976
37%|████████████████████████████▌ | 4460/12000 [17:05<28:23, 4.43it/s]
train loss:0.0024449178822708644
37%|████████████████████████████▌ | 4461/12000 [17:05<28:22, 4.43it/s]
train loss:0.005615673058098728
37%|████████████████████████████▋ | 4462/12000 [17:05<28:23, 4.43it/s]
train loss:0.003220920861942174
37%|████████████████████████████▋ | 4463/12000 [17:06<28:18, 4.44it/s]
train loss:0.007327772900896399
37%|████████████████████████████▋ | 4464/12000 [17:06<28:17, 4.44it/s]
train loss:0.017186641962080754
37%|████████████████████████████▋ | 4465/12000 [17:06<28:22, 4.42it/s]
train loss:0.03942876008513197
37%|████████████████████████████▋ | 4466/12000 [17:06<28:23, 4.42it/s]
train loss:0.006048894498563019
37%|████████████████████████████▋ | 4467/12000 [17:07<28:28, 4.41it/s]
train loss:0.0050287383845868516
37%|████████████████████████████▋ | 4468/12000 [17:07<28:05, 4.47it/s]
train loss:0.010938813172149935
37%|████████████████████████████▋ | 4469/12000 [17:07<28:11, 4.45it/s]
train loss:0.015071043160391057
37%|████████████████████████████▋ | 4470/12000 [17:07<28:12, 4.45it/s]
train loss:0.020468553490520076
37%|████████████████████████████▋ | 4471/12000 [17:07<28:24, 4.42it/s]
train loss:0.005879285824029506
37%|████████████████████████████▋ | 4472/12000 [17:08<28:18, 4.43it/s]
train loss:0.007276332452874279
37%|████████████████████████████▋ | 4473/12000 [17:08<28:22, 4.42it/s]
train loss:0.03240615443260384
37%|████████████████████████████▋ | 4474/12000 [17:08<28:24, 4.41it/s]
train loss:0.022875221340550925
37%|████████████████████████████▋ | 4475/12000 [17:08<28:38, 4.38it/s]
train loss:0.025380661890492102
37%|████████████████████████████▋ | 4476/12000 [17:09<28:46, 4.36it/s]
train loss:0.01469702498602633
37%|████████████████████████████▋ | 4477/12000 [17:09<28:22, 4.42it/s]
train loss:0.02346393169457917
37%|████████████████████████████▋ | 4478/12000 [17:09<29:32, 4.24it/s]
train loss:0.009426004674258769
37%|████████████████████████████▋ | 4479/12000 [17:09<29:10, 4.30it/s]
train loss:0.005690761673825176
37%|████████████████████████████▋ | 4480/12000 [17:10<29:04, 4.31it/s]
train loss:0.011184096094963136
37%|████████████████████████████▊ | 4481/12000 [17:10<28:32, 4.39it/s]
train loss:0.02383722606677351
37%|████████████████████████████▊ | 4482/12000 [17:10<28:30, 4.40it/s]
train loss:0.00856828363858789
37%|████████████████████████████▊ | 4483/12000 [17:10<28:28, 4.40it/s]
train loss:0.018430678884513895
37%|████████████████████████████▊ | 4484/12000 [17:10<28:26, 4.41it/s]
train loss:0.03913218195239466
37%|████████████████████████████▊ | 4485/12000 [17:11<28:21, 4.42it/s]
train loss:0.021156046260304998
37%|████████████████████████████▊ | 4486/12000 [17:11<28:11, 4.44it/s]
train loss:0.008964449910007471
37%|████████████████████████████▊ | 4487/12000 [17:11<28:12, 4.44it/s]
train loss:0.006042484664984071
37%|████████████████████████████▊ | 4488/12000 [17:11<28:14, 4.43it/s]
train loss:0.002326925951314399
37%|████████████████████████████▊ | 4489/12000 [17:12<28:20, 4.42it/s]
train loss:0.06582829596949963
37%|████████████████████████████▊ | 4490/12000 [17:12<27:55, 4.48it/s]
train loss:0.002495865911937924
37%|████████████████████████████▊ | 4491/12000 [17:12<28:03, 4.46it/s]
train loss:0.006824699884431165
37%|████████████████████████████▊ | 4492/12000 [17:12<28:32, 4.39it/s]
train loss:0.003270978072563546
37%|████████████████████████████▊ | 4493/12000 [17:12<28:31, 4.39it/s]
train loss:0.0011380455320175625
37%|████████████████████████████▊ | 4494/12000 [17:13<28:11, 4.44it/s]
train loss:0.0009915858578723664
37%|████████████████████████████▊ | 4495/12000 [17:13<28:12, 4.44it/s]
train loss:0.01772860305673418
37%|████████████████████████████▊ | 4496/12000 [17:13<28:25, 4.40it/s]
train loss:0.016895184432923184
37%|████████████████████████████▊ | 4497/12000 [17:13<28:23, 4.40it/s]
train loss:0.019424908438635227
37%|████████████████████████████▊ | 4498/12000 [17:14<28:17, 4.42it/s]
train loss:0.024259128831955086
37%|████████████████████████████▊ | 4499/12000 [17:14<27:57, 4.47it/s]
train loss:0.0016901009316734991
38%|████████████████████████████▉ | 4500/12000 [17:14<28:09, 4.44it/s]
train loss:0.004827517740212522
38%|████████████████████████████▉ | 4501/12000 [17:14<28:07, 4.44it/s]
train loss:0.008457330577745227
38%|████████████████████████████▉ | 4502/12000 [17:14<28:09, 4.44it/s]
train loss:0.0062398047785449775 train loss:0.018634472443143212
38%|████████████████████████████▉ | 4504/12000 [17:15<27:55, 4.47it/s]
train loss:0.07427971351338289
38%|████████████████████████████▉ | 4505/12000 [17:15<28:17, 4.41it/s]
train loss:0.012432113187202734
38%|████████████████████████████▉ | 4506/12000 [17:15<28:19, 4.41it/s]
train loss:0.006619185572118214
38%|████████████████████████████▉ | 4507/12000 [17:16<28:21, 4.40it/s]
train loss:0.0014849878625721148
38%|████████████████████████████▉ | 4508/12000 [17:16<28:07, 4.44it/s]
train loss:0.0025998947793128635
38%|████████████████████████████▉ | 4509/12000 [17:16<28:06, 4.44it/s]
train loss:0.017067789875100804
38%|████████████████████████████▉ | 4510/12000 [17:16<28:10, 4.43it/s]
train loss:0.01403672684067561
38%|████████████████████████████▉ | 4511/12000 [17:16<28:10, 4.43it/s]
train loss:0.007797537883731271
38%|████████████████████████████▉ | 4512/12000 [17:17<27:49, 4.48it/s]
train loss:0.006839342245618199
38%|████████████████████████████▉ | 4513/12000 [17:17<28:02, 4.45it/s]
train loss:0.0033993814393098133
38%|████████████████████████████▉ | 4514/12000 [17:17<27:59, 4.46it/s]
train loss:0.04329542566313659
38%|████████████████████████████▉ | 4515/12000 [17:17<28:05, 4.44it/s]
train loss:0.0069445438648361845
38%|████████████████████████████▉ | 4516/12000 [17:18<28:01, 4.45it/s]
train loss:0.023222360462540205
38%|████████████████████████████▉ | 4517/12000 [17:18<27:53, 4.47it/s]
train loss:0.00495642828427521
38%|████████████████████████████▉ | 4518/12000 [17:18<27:55, 4.47it/s]
train loss:0.0051584683405350015
38%|████████████████████████████▉ | 4519/12000 [17:18<28:10, 4.43it/s]
train loss:0.014574748810930007
38%|█████████████████████████████ | 4520/12000 [17:19<28:09, 4.43it/s]
train loss:0.010437700692372454
38%|█████████████████████████████ | 4521/12000 [17:19<27:52, 4.47it/s]
train loss:0.0029857102097304742
38%|█████████████████████████████ | 4522/12000 [17:19<28:03, 4.44it/s]
train loss:0.011330078380959577
38%|█████████████████████████████ | 4523/12000 [17:19<28:58, 4.30it/s]
train loss:0.002082285787580509
38%|█████████████████████████████ | 4524/12000 [17:19<28:35, 4.36it/s]
train loss:0.007074541987199119
38%|█████████████████████████████ | 4525/12000 [17:20<28:11, 4.42it/s]
train loss:0.02024541485044988
38%|█████████████████████████████ | 4526/12000 [17:20<28:21, 4.39it/s]
train loss:0.01781712612448393
38%|█████████████████████████████ | 4527/12000 [17:20<28:15, 4.41it/s]
train loss:0.02391795094067453
38%|█████████████████████████████ | 4528/12000 [17:20<28:12, 4.41it/s]
train loss:0.01010536609102474
38%|█████████████████████████████ | 4529/12000 [17:21<28:24, 4.38it/s]
train loss:0.01833877497140221
38%|█████████████████████████████ | 4530/12000 [17:21<28:14, 4.41it/s]
train loss:0.0030117892234300813
38%|█████████████████████████████ | 4531/12000 [17:21<28:45, 4.33it/s]
train loss:0.0028388383776688252
38%|█████████████████████████████ | 4532/12000 [17:21<28:39, 4.34it/s]
train loss:0.004065524257280484
38%|█████████████████████████████ | 4533/12000 [17:21<28:31, 4.36it/s]
train loss:0.0029031010606111744
38%|█████████████████████████████ | 4534/12000 [17:22<28:51, 4.31it/s]
train loss:0.00839563452559007
38%|█████████████████████████████ | 4535/12000 [17:22<28:43, 4.33it/s]
train loss:0.004241899752235504
38%|█████████████████████████████ | 4536/12000 [17:22<28:36, 4.35it/s]
train loss:0.033600870541056004
38%|█████████████████████████████ | 4537/12000 [17:22<28:28, 4.37it/s]
train loss:0.0062279559574122505
38%|█████████████████████████████ | 4538/12000 [17:23<28:11, 4.41it/s]
train loss:0.020532468364271278
38%|█████████████████████████████▏ | 4539/12000 [17:23<28:05, 4.43it/s]
train loss:0.003105837096451533
38%|█████████████████████████████▏ | 4540/12000 [17:23<28:03, 4.43it/s]
train loss:0.020219012851133474
38%|█████████████████████████████▏ | 4541/12000 [17:23<28:06, 4.42it/s]
train loss:0.010851898741236501
38%|█████████████████████████████▏ | 4542/12000 [17:24<28:15, 4.40it/s]
train loss:0.001536413057494943
38%|█████████████████████████████▏ | 4543/12000 [17:24<27:51, 4.46it/s]
train loss:0.05378284115767766
38%|█████████████████████████████▏ | 4544/12000 [17:24<28:05, 4.42it/s]
train loss:0.006265501253126916
38%|█████████████████████████████▏ | 4545/12000 [17:24<28:15, 4.40it/s]
train loss:0.005947571388922046
38%|█████████████████████████████▏ | 4546/12000 [17:24<28:23, 4.38it/s]
train loss:0.0006875016112005986
38%|█████████████████████████████▏ | 4547/12000 [17:25<28:13, 4.40it/s]
train loss:0.0038754667405142707
38%|█████████████████████████████▏ | 4548/12000 [17:25<28:09, 4.41it/s]
train loss:0.004405430285275184
38%|█████████████████████████████▏ | 4549/12000 [17:25<28:54, 4.29it/s]
train loss:0.006303954813127972
38%|█████████████████████████████▏ | 4550/12000 [17:25<28:38, 4.33it/s]
train loss:0.007099222020652741
38%|█████████████████████████████▏ | 4551/12000 [17:26<28:27, 4.36it/s]
train loss:0.006562188587617133
38%|█████████████████████████████▏ | 4552/12000 [17:26<28:08, 4.41it/s]
train loss:0.015445004479714135
38%|█████████████████████████████▏ | 4553/12000 [17:26<28:10, 4.41it/s]
train loss:0.0025494573490445825
38%|█████████████████████████████▏ | 4554/12000 [17:26<28:08, 4.41it/s]
train loss:0.008367225925443674
38%|█████████████████████████████▏ | 4555/12000 [17:26<28:08, 4.41it/s]
train loss:0.004996051190446816
38%|█████████████████████████████▏ | 4556/12000 [17:27<27:45, 4.47it/s]
train loss:0.005563112559068677
38%|█████████████████████████████▏ | 4557/12000 [17:27<27:55, 4.44it/s]
train loss:0.0035543359291820707
38%|█████████████████████████████▏ | 4558/12000 [17:27<27:57, 4.44it/s]
train loss:0.0036422040263365744
38%|█████████████████████████████▎ | 4559/12000 [17:27<28:00, 4.43it/s]
train loss:0.02974253882347869
38%|█████████████████████████████▎ | 4560/12000 [17:28<27:47, 4.46it/s]
train loss:0.03964821798572821
38%|█████████████████████████████▎ | 4561/12000 [17:28<27:53, 4.45it/s]
train loss:0.00161515066506625
38%|█████████████████████████████▎ | 4562/12000 [17:28<27:59, 4.43it/s]
train loss:0.0006683311232440539
38%|█████████████████████████████▎ | 4563/12000 [17:28<28:00, 4.43it/s]
train loss:0.005080130337136128
38%|█████████████████████████████▎ | 4564/12000 [17:29<28:05, 4.41it/s]
train loss:0.017141122614022702
38%|█████████████████████████████▎ | 4565/12000 [17:29<27:43, 4.47it/s]
train loss:0.006914076426097229
38%|█████████████████████████████▎ | 4566/12000 [17:29<27:53, 4.44it/s]
train loss:0.014499918863328399
38%|█████████████████████████████▎ | 4567/12000 [17:29<27:58, 4.43it/s]
train loss:0.018907846212287343
38%|█████████████████████████████▎ | 4568/12000 [17:29<28:01, 4.42it/s]
train loss:0.02587116104423635
38%|█████████████████████████████▎ | 4569/12000 [17:30<27:50, 4.45it/s]
train loss:0.003996412748412635
38%|█████████████████████████████▎ | 4570/12000 [17:30<27:54, 4.44it/s]
train loss:0.016751393112079006
38%|█████████████████████████████▎ | 4571/12000 [17:30<27:56, 4.43it/s]
train loss:0.006525813264310532
38%|█████████████████████████████▎ | 4572/12000 [17:30<28:00, 4.42it/s]
train loss:0.010499884977719708
38%|█████████████████████████████▎ | 4573/12000 [17:31<28:01, 4.42it/s]
train loss:0.006073617102944136
38%|█████████████████████████████▎ | 4574/12000 [17:31<27:51, 4.44it/s]
train loss:0.01914379514238309
38%|█████████████████████████████▎ | 4575/12000 [17:31<27:55, 4.43it/s]
train loss:0.006247824067609501
38%|█████████████████████████████▎ | 4576/12000 [17:31<28:05, 4.41it/s]
train loss:0.026047322448037456
38%|█████████████████████████████▎ | 4577/12000 [17:31<28:05, 4.40it/s]
train loss:0.006789056113373616
38%|█████████████████████████████▍ | 4578/12000 [17:32<27:46, 4.45it/s]
train loss:0.015766662266884494
38%|█████████████████████████████▍ | 4579/12000 [17:32<27:54, 4.43it/s]
train loss:0.002765263319411604
38%|█████████████████████████████▍ | 4580/12000 [17:32<27:54, 4.43it/s]
train loss:0.002823333070444025
38%|█████████████████████████████▍ | 4581/12000 [17:32<27:57, 4.42it/s]
train loss:0.0026154537820976594
38%|█████████████████████████████▍ | 4582/12000 [17:33<27:58, 4.42it/s]
train loss:0.011315327683028231
38%|█████████████████████████████▍ | 4583/12000 [17:33<27:40, 4.47it/s]
train loss:0.008671749531755132
38%|█████████████████████████████▍ | 4584/12000 [17:33<27:46, 4.45it/s]
train loss:0.02620511048181524
38%|█████████████████████████████▍ | 4585/12000 [17:33<27:56, 4.42it/s]
train loss:0.009518387075480937
38%|█████████████████████████████▍ | 4586/12000 [17:33<27:58, 4.42it/s]
train loss:0.012078023311516296
38%|█████████████████████████████▍ | 4587/12000 [17:34<27:43, 4.46it/s]
train loss:0.009469276043248782
38%|█████████████████████████████▍ | 4588/12000 [17:34<27:48, 4.44it/s]
train loss:0.0015806505700439492
38%|█████████████████████████████▍ | 4589/12000 [17:34<27:50, 4.44it/s]
train loss:0.00299528861431773
38%|█████████████████████████████▍ | 4590/12000 [17:34<27:54, 4.42it/s]
train loss:0.0108294067838276
38%|█████████████████████████████▍ | 4591/12000 [17:35<27:49, 4.44it/s]
train loss:0.005062764472584928
38%|█████████████████████████████▍ | 4592/12000 [17:35<27:45, 4.45it/s]
train loss:0.0020281517889481184
38%|█████████████████████████████▍ | 4593/12000 [17:35<27:57, 4.42it/s]
train loss:0.0042443092503768745
38%|█████████████████████████████▍ | 4594/12000 [17:35<27:58, 4.41it/s]
train loss:0.010679254191706084
38%|█████████████████████████████▍ | 4595/12000 [17:36<28:02, 4.40it/s]
train loss:0.009009602979912238
38%|█████████████████████████████▍ | 4596/12000 [17:36<27:47, 4.44it/s]
train loss:0.023653524485459775
38%|█████████████████████████████▍ | 4597/12000 [17:36<27:54, 4.42it/s]
train loss:0.0056574907472700916
38%|█████████████████████████████▌ | 4598/12000 [17:36<27:58, 4.41it/s]
train loss:0.00287785552533612
38%|█████████████████████████████▌ | 4599/12000 [17:36<28:05, 4.39it/s]
train loss:0.01000117705708803
38%|█████████████████████████████▌ | 4600/12000 [17:37<27:54, 4.42it/s]
train loss:0.010344022330011084
38%|█████████████████████████████▌ | 4601/12000 [17:37<27:53, 4.42it/s]
train loss:0.009872205883502412
38%|█████████████████████████████▌ | 4602/12000 [17:37<27:55, 4.41it/s]
train loss:0.004111685767735772
38%|█████████████████████████████▌ | 4603/12000 [17:37<27:55, 4.41it/s]
train loss:0.03971072740870671
38%|█████████████████████████████▌ | 4604/12000 [17:38<28:06, 4.39it/s]
train loss:0.007282246330499648
38%|█████████████████████████████▌ | 4605/12000 [17:38<27:53, 4.42it/s]
train loss:0.0056628111725540746
38%|█████████████████████████████▌ | 4606/12000 [17:38<28:19, 4.35it/s]
train loss:0.009673428155707457
38%|█████████████████████████████▌ | 4607/12000 [17:38<28:14, 4.36it/s]
train loss:0.03213097719853125
38%|█████████████████████████████▌ | 4608/12000 [17:38<28:10, 4.37it/s]
train loss:0.003662206495553998
38%|█████████████████████████████▌ | 4609/12000 [17:39<27:49, 4.43it/s]
train loss:0.0061451695525872475
38%|█████████████████████████████▌ | 4610/12000 [17:39<27:52, 4.42it/s]
train loss:0.02289907355096611
38%|█████████████████████████████▌ | 4611/12000 [17:39<28:07, 4.38it/s]
train loss:0.007044961045860919
38%|█████████████████████████████▌ | 4612/12000 [17:39<28:04, 4.39it/s]
train loss:0.0018542473796018077
38%|█████████████████████████████▌ | 4613/12000 [17:40<27:57, 4.40it/s]
train loss:0.006268457295484669
38%|█████████████████████████████▌ | 4614/12000 [17:40<27:22, 4.50it/s]
train loss:0.0086755740571832
38%|█████████████████████████████▌ | 4615/12000 [17:40<27:53, 4.41it/s]
train loss:0.004961096156959491
38%|█████████████████████████████▌ | 4616/12000 [17:40<28:03, 4.39it/s]
train loss:0.014418894194644634
38%|█████████████████████████████▋ | 4617/12000 [17:41<28:07, 4.38it/s]
train loss:0.012743014454364631
38%|█████████████████████████████▋ | 4618/12000 [17:41<27:31, 4.47it/s]
train loss:0.005942547628783331
38%|█████████████████████████████▋ | 4619/12000 [17:41<27:50, 4.42it/s]
train loss:0.012268486340299528
38%|█████████████████████████████▋ | 4620/12000 [17:41<28:49, 4.27it/s]
train loss:0.005395985992655358
39%|█████████████████████████████▋ | 4621/12000 [17:41<28:36, 4.30it/s]
train loss:0.0030292027983020815
39%|█████████████████████████████▋ | 4622/12000 [17:42<28:01, 4.39it/s]
train loss:0.0035064396047010064
39%|█████████████████████████████▋ | 4623/12000 [17:42<28:01, 4.39it/s]
train loss:0.015705459195503195
39%|█████████████████████████████▋ | 4624/12000 [17:42<27:58, 4.40it/s]
train loss:0.002209668903824829
39%|█████████████████████████████▋ | 4625/12000 [17:42<27:55, 4.40it/s]
train loss:0.011911043697781074
39%|█████████████████████████████▋ | 4626/12000 [17:43<27:55, 4.40it/s]
train loss:0.002367364569209457
39%|█████████████████████████████▋ | 4627/12000 [17:43<27:36, 4.45it/s]
train loss:0.015783016685616224
39%|█████████████████████████████▋ | 4628/12000 [17:43<27:40, 4.44it/s]
train loss:0.00792144570438177
39%|█████████████████████████████▋ | 4629/12000 [17:43<27:40, 4.44it/s]
train loss:0.0007759769096749813
39%|█████████████████████████████▋ | 4630/12000 [17:43<27:46, 4.42it/s]
train loss:0.0018456623995034046
39%|█████████████████████████████▋ | 4631/12000 [17:44<27:28, 4.47it/s]
train loss:0.04263447884840401
39%|█████████████████████████████▋ | 4632/12000 [17:44<27:36, 4.45it/s]
train loss:0.016286679965235758
39%|█████████████████████████████▋ | 4633/12000 [17:44<27:39, 4.44it/s]
train loss:0.022225359509311152
39%|█████████████████████████████▋ | 4634/12000 [17:44<27:41, 4.43it/s]
train loss:0.03007832489178873
39%|█████████████████████████████▋ | 4635/12000 [17:45<27:39, 4.44it/s]
train loss:0.018993703641325566
39%|█████████████████████████████▋ | 4636/12000 [17:45<27:37, 4.44it/s]
train loss:0.0007083583397812077
39%|█████████████████████████████▊ | 4637/12000 [17:45<27:40, 4.43it/s]
train loss:0.0048884805773370095
39%|█████████████████████████████▊ | 4638/12000 [17:45<27:42, 4.43it/s]
train loss:0.0077822305642289615
39%|█████████████████████████████▊ | 4639/12000 [17:45<27:44, 4.42it/s]
train loss:0.0008988058521701738
39%|█████████████████████████████▊ | 4640/12000 [17:46<27:17, 4.49it/s]
train loss:0.007304075129612771
39%|█████████████████████████████▊ | 4641/12000 [17:46<27:17, 4.50it/s]
train loss:0.009557754480351018
39%|█████████████████████████████▊ | 4642/12000 [17:46<27:28, 4.46it/s]
train loss:0.016063116326608916
39%|█████████████████████████████▊ | 4643/12000 [17:46<27:33, 4.45it/s]
train loss:0.16303255081708407
39%|█████████████████████████████▊ | 4644/12000 [17:47<27:28, 4.46it/s]
train loss:0.013813395430266917
39%|█████████████████████████████▊ | 4645/12000 [17:47<27:27, 4.46it/s]
train loss:0.008976272189435072
39%|█████████████████████████████▊ | 4646/12000 [17:47<27:32, 4.45it/s]
train loss:0.0008491085036234363
39%|█████████████████████████████▊ | 4647/12000 [17:47<27:37, 4.44it/s]
train loss:0.003318943039196132
39%|█████████████████████████████▊ | 4648/12000 [17:48<27:54, 4.39it/s]
train loss:0.011156612147472583
39%|█████████████████████████████▊ | 4649/12000 [17:48<27:32, 4.45it/s]
train loss:0.002975477457945463
39%|█████████████████████████████▊ | 4650/12000 [17:48<27:39, 4.43it/s]
train loss:0.011110830015900866
39%|█████████████████████████████▊ | 4651/12000 [17:48<27:48, 4.40it/s]
train loss:0.006359679092410556
39%|█████████████████████████████▊ | 4652/12000 [17:48<27:53, 4.39it/s]
train loss:0.003146506158872728
39%|█████████████████████████████▊ | 4653/12000 [17:49<28:05, 4.36it/s]
train loss:0.003302652865758306
39%|█████████████████████████████▊ | 4654/12000 [17:49<27:51, 4.39it/s]
train loss:0.00354145967685535
39%|█████████████████████████████▊ | 4655/12000 [17:49<27:51, 4.39it/s]
train loss:0.004642814462198665
39%|█████████████████████████████▉ | 4656/12000 [17:49<27:48, 4.40it/s]
train loss:0.004118042317278475
39%|█████████████████████████████▉ | 4657/12000 [17:50<27:47, 4.40it/s]
train loss:0.03463703814317816
39%|█████████████████████████████▉ | 4658/12000 [17:50<27:30, 4.45it/s]
train loss:0.0014390720610302906
39%|█████████████████████████████▉ | 4659/12000 [17:50<27:32, 4.44it/s]
train loss:0.007815740616409638
39%|█████████████████████████████▉ | 4660/12000 [17:50<27:36, 4.43it/s]
train loss:0.010600848603609998
39%|█████████████████████████████▉ | 4661/12000 [17:50<27:45, 4.41it/s]
train loss:0.008335923750011553
39%|█████████████████████████████▉ | 4662/12000 [17:51<27:26, 4.46it/s]
train loss:0.005041769327277033
39%|█████████████████████████████▉ | 4663/12000 [17:51<27:32, 4.44it/s]
train loss:0.007776833290472293
39%|█████████████████████████████▉ | 4664/12000 [17:51<27:37, 4.43it/s]
train loss:0.009421298219981696
39%|█████████████████████████████▉ | 4665/12000 [17:51<27:40, 4.42it/s]
train loss:0.011774977553922632
39%|█████████████████████████████▉ | 4666/12000 [17:52<27:35, 4.43it/s]
train loss:0.010287402350144338
39%|█████████████████████████████▉ | 4667/12000 [17:52<27:22, 4.47it/s]
train loss:0.011257547234938102
39%|█████████████████████████████▉ | 4668/12000 [17:52<27:27, 4.45it/s]
train loss:0.01201132539652334
39%|█████████████████████████████▉ | 4669/12000 [17:52<27:31, 4.44it/s]
train loss:0.0030734662397777553
39%|█████████████████████████████▉ | 4670/12000 [17:52<27:35, 4.43it/s]
train loss:0.0055771428021043415
39%|█████████████████████████████▉ | 4671/12000 [17:53<27:23, 4.46it/s]
train loss:0.009765317322639107
39%|█████████████████████████████▉ | 4672/12000 [17:53<27:30, 4.44it/s]
train loss:0.004145222984730685
39%|█████████████████████████████▉ | 4673/12000 [17:53<27:33, 4.43it/s]
train loss:0.002840202861103399
39%|█████████████████████████████▉ | 4674/12000 [17:53<27:32, 4.43it/s]
train loss:0.04198606220505488
39%|█████████████████████████████▉ | 4675/12000 [17:54<27:23, 4.46it/s]
train loss:0.04792608903672179
39%|██████████████████████████████ | 4676/12000 [17:54<27:23, 4.46it/s]
train loss:0.015819974483641454
39%|██████████████████████████████ | 4677/12000 [17:54<27:40, 4.41it/s]
train loss:0.013375005373161573
39%|██████████████████████████████ | 4678/12000 [17:54<27:37, 4.42it/s]
train loss:0.01435729189465915
39%|██████████████████████████████ | 4679/12000 [17:55<27:48, 4.39it/s]
train loss:0.0036564280745709815
39%|██████████████████████████████ | 4680/12000 [17:55<27:17, 4.47it/s]
train loss:0.01287478611856726
39%|██████████████████████████████ | 4681/12000 [17:55<27:31, 4.43it/s]
train loss:0.0010477820668977247
39%|██████████████████████████████ | 4682/12000 [17:55<27:39, 4.41it/s]
train loss:0.009827664365799724
39%|██████████████████████████████ | 4683/12000 [17:55<27:45, 4.39it/s]
train loss:0.004097008443490296
39%|██████████████████████████████ | 4684/12000 [17:56<27:36, 4.42it/s]
train loss:0.0040230014641088096
39%|██████████████████████████████ | 4685/12000 [17:56<27:48, 4.38it/s]
train loss:0.003482847980391157
39%|██████████████████████████████ | 4686/12000 [17:56<28:13, 4.32it/s]
train loss:0.008718805793550896
39%|██████████████████████████████ | 4687/12000 [17:56<28:22, 4.30it/s]
train loss:0.017247746163643343
39%|██████████████████████████████ | 4688/12000 [17:57<28:18, 4.30it/s]
train loss:0.03694627378972718
39%|██████████████████████████████ | 4689/12000 [17:57<27:46, 4.39it/s]
train loss:0.006062292716012595
39%|██████████████████████████████ | 4690/12000 [17:57<27:45, 4.39it/s]
train loss:0.009069105494052652
39%|██████████████████████████████ | 4691/12000 [17:57<27:42, 4.40it/s]
train loss:0.031002478539588076
39%|██████████████████████████████ | 4692/12000 [17:57<27:39, 4.40it/s]
train loss:0.0036864594919859568
39%|██████████████████████████████ | 4693/12000 [17:58<29:16, 4.16it/s]
train loss:0.015406677939392039
39%|██████████████████████████████ | 4694/12000 [17:58<28:44, 4.24it/s]
train loss:0.04139907081427412
39%|██████████████████████████████▏ | 4695/12000 [17:58<28:20, 4.30it/s]
train loss:0.013452392968934095
39%|██████████████████████████████▏ | 4696/12000 [17:58<28:12, 4.32it/s]
train loss:0.0017023204815692992
39%|██████████████████████████████▏ | 4697/12000 [17:59<27:39, 4.40it/s]
train loss:0.012580350464191042
39%|██████████████████████████████▏ | 4698/12000 [17:59<27:35, 4.41it/s]
train loss:0.03401374053052603
39%|██████████████████████████████▏ | 4699/12000 [17:59<27:36, 4.41it/s]
train loss:0.005227362463981661
39%|██████████████████████████████▏ | 4700/12000 [17:59<27:35, 4.41it/s]
train loss:0.009384788763596231
39%|██████████████████████████████▏ | 4701/12000 [18:00<27:32, 4.42it/s]
train loss:0.003432800258329119
39%|██████████████████████████████▏ | 4702/12000 [18:00<27:17, 4.46it/s]
train loss:0.006343911830974867
39%|██████████████████████████████▏ | 4703/12000 [18:00<27:27, 4.43it/s]
train loss:0.017504646377997327
39%|██████████████████████████████▏ | 4704/12000 [18:00<27:26, 4.43it/s]
train loss:0.0038696025661115545
39%|██████████████████████████████▏ | 4705/12000 [18:00<27:28, 4.43it/s]
train loss:0.0019623164419805485
39%|██████████████████████████████▏ | 4706/12000 [18:01<27:08, 4.48it/s]
train loss:0.008400949547538781
39%|██████████████████████████████▏ | 4707/12000 [18:01<27:14, 4.46it/s]
train loss:0.0083279837748133
39%|██████████████████████████████▏ | 4708/12000 [18:01<27:17, 4.45it/s]
train loss:0.015434190026312872
39%|██████████████████████████████▏ | 4709/12000 [18:01<27:21, 4.44it/s]
train loss:0.00856100547220273
39%|██████████████████████████████▏ | 4710/12000 [18:02<27:21, 4.44it/s]
train loss:0.07195848958934621
39%|██████████████████████████████▏ | 4711/12000 [18:02<27:09, 4.47it/s]
train loss:0.005565656603257837
39%|██████████████████████████████▏ | 4712/12000 [18:02<27:18, 4.45it/s]
train loss:0.005380516120528485
39%|██████████████████████████████▏ | 4713/12000 [18:02<27:20, 4.44it/s]
train loss:0.006125077806450383
39%|██████████████████████████████▏ | 4714/12000 [18:02<27:15, 4.45it/s]
train loss:0.008664272707613382
39%|██████████████████████████████▎ | 4715/12000 [18:03<27:12, 4.46it/s]
train loss:0.0006241519658291857
39%|██████████████████████████████▎ | 4716/12000 [18:03<27:22, 4.44it/s]
train loss:0.003568211861758051
39%|██████████████████████████████▎ | 4717/12000 [18:03<27:28, 4.42it/s]
train loss:0.004785615139644011
39%|██████████████████████████████▎ | 4718/12000 [18:03<27:34, 4.40it/s]
train loss:0.00921889892819943
39%|██████████████████████████████▎ | 4719/12000 [18:04<27:24, 4.43it/s]
train loss:0.012251986618759507
39%|██████████████████████████████▎ | 4720/12000 [18:04<28:12, 4.30it/s]
train loss:0.0032188107251808944
39%|██████████████████████████████▎ | 4721/12000 [18:04<28:01, 4.33it/s]
train loss:0.012106869275173866
39%|██████████████████████████████▎ | 4722/12000 [18:04<28:00, 4.33it/s]
train loss:0.010120448894086587
39%|██████████████████████████████▎ | 4723/12000 [18:05<28:11, 4.30it/s]
train loss:0.007760692173918584
39%|██████████████████████████████▎ | 4724/12000 [18:05<27:42, 4.38it/s]
train loss:0.016660644099169498
39%|██████████████████████████████▎ | 4725/12000 [18:05<27:40, 4.38it/s]
train loss:0.01695124188959142
39%|██████████████████████████████▎ | 4726/12000 [18:05<27:40, 4.38it/s]
train loss:0.009696187691194043
39%|██████████████████████████████▎ | 4727/12000 [18:05<27:40, 4.38it/s]
train loss:0.020745789272711024
39%|██████████████████████████████▎ | 4728/12000 [18:06<27:16, 4.44it/s]
train loss:0.001524231196989739
39%|██████████████████████████████▎ | 4729/12000 [18:06<27:34, 4.39it/s]
train loss:0.0030082895953430677
39%|██████████████████████████████▎ | 4730/12000 [18:06<28:21, 4.27it/s]
train loss:0.00877369006616751
39%|██████████████████████████████▎ | 4731/12000 [18:06<28:00, 4.32it/s]
train loss:0.015935578681726636
39%|██████████████████████████████▎ | 4732/12000 [18:07<27:47, 4.36it/s]
train loss:0.009404950615746087
39%|██████████████████████████████▎ | 4733/12000 [18:07<27:34, 4.39it/s]
train loss:0.006926540344791534
39%|██████████████████████████████▍ | 4734/12000 [18:07<27:40, 4.38it/s]
train loss:0.00749196734331531
39%|██████████████████████████████▍ | 4735/12000 [18:07<27:37, 4.38it/s]
train loss:0.003310913492390809
39%|██████████████████████████████▍ | 4736/12000 [18:08<27:31, 4.40it/s]
train loss:0.01867002445387829
39%|██████████████████████████████▍ | 4737/12000 [18:08<27:10, 4.45it/s]
train loss:0.00604791219687677
39%|██████████████████████████████▍ | 4738/12000 [18:08<27:15, 4.44it/s]
train loss:0.007154837095909305
39%|██████████████████████████████▍ | 4739/12000 [18:08<27:18, 4.43it/s]
train loss:0.005982209241066283
40%|██████████████████████████████▍ | 4740/12000 [18:08<27:28, 4.40it/s]
train loss:0.006054954674274638
40%|██████████████████████████████▍ | 4741/12000 [18:09<27:18, 4.43it/s]
train loss:0.0028430544573397726
40%|██████████████████████████████▍ | 4742/12000 [18:09<27:17, 4.43it/s]
train loss:0.004686547829969272
40%|██████████████████████████████▍ | 4743/12000 [18:09<27:21, 4.42it/s]
train loss:0.023692321066916783
40%|██████████████████████████████▍ | 4744/12000 [18:09<27:24, 4.41it/s]
train loss:0.07493324797058096
40%|██████████████████████████████▍ | 4745/12000 [18:10<27:27, 4.40it/s]
train loss:0.010236530420218081
40%|██████████████████████████████▍ | 4746/12000 [18:10<27:21, 4.42it/s]
train loss:0.0028322964396408994
40%|██████████████████████████████▍ | 4747/12000 [18:10<27:23, 4.41it/s]
train loss:0.023063686205923743
40%|██████████████████████████████▍ | 4748/12000 [18:10<27:25, 4.41it/s]
train loss:0.06531924251459094
40%|██████████████████████████████▍ | 4749/12000 [18:10<27:30, 4.39it/s]
train loss:0.01651008583451973
40%|██████████████████████████████▍ | 4750/12000 [18:11<27:23, 4.41it/s]
train loss:0.013218663371125228
40%|██████████████████████████████▍ | 4751/12000 [18:11<27:48, 4.35it/s]
train loss:0.00491746475577164
40%|██████████████████████████████▍ | 4752/12000 [18:11<28:35, 4.23it/s]
train loss:0.011404512258405662
40%|██████████████████████████████▍ | 4753/12000 [18:11<28:39, 4.22it/s]
train loss:0.015837746422883645
40%|██████████████████████████████▌ | 4754/12000 [18:12<28:30, 4.24it/s]
train loss:0.010802359308450811
40%|██████████████████████████████▌ | 4755/12000 [18:12<28:41, 4.21it/s]
train loss:0.005217502820389224
40%|██████████████████████████████▌ | 4756/12000 [18:12<28:27, 4.24it/s]
train loss:0.016883242626785845
40%|██████████████████████████████▌ | 4757/12000 [18:12<28:38, 4.21it/s]
train loss:0.0417479797679247
40%|██████████████████████████████▌ | 4758/12000 [18:13<28:27, 4.24it/s]
train loss:0.013044253641519312
40%|██████████████████████████████▌ | 4759/12000 [18:13<28:32, 4.23it/s]
train loss:0.011881785079448613
40%|██████████████████████████████▌ | 4760/12000 [18:13<28:41, 4.20it/s]
train loss:0.002757858623200989
40%|██████████████████████████████▌ | 4761/12000 [18:13<28:03, 4.30it/s]
train loss:0.03487884005138789
40%|██████████████████████████████▌ | 4762/12000 [18:14<28:04, 4.30it/s]
train loss:0.00795036838115462
40%|██████████████████████████████▌ | 4763/12000 [18:14<27:52, 4.33it/s]
train loss:0.03100444501861148
40%|██████████████████████████████▌ | 4764/12000 [18:14<28:24, 4.24it/s]
train loss:0.007165386633382665
40%|██████████████████████████████▌ | 4765/12000 [18:14<28:34, 4.22it/s]
train loss:0.02177091192207429
40%|██████████████████████████████▌ | 4766/12000 [18:14<28:16, 4.27it/s]
train loss:0.006849330221150965
40%|██████████████████████████████▌ | 4767/12000 [18:15<28:39, 4.21it/s]
train loss:0.004945898684798241
40%|██████████████████████████████▌ | 4768/12000 [18:15<28:33, 4.22it/s]
train loss:0.009079599619628245
40%|██████████████████████████████▌ | 4769/12000 [18:15<28:33, 4.22it/s]
train loss:0.03498152069071339
40%|██████████████████████████████▌ | 4770/12000 [18:15<28:04, 4.29it/s]
train loss:0.004235880098733249
40%|██████████████████████████████▌ | 4771/12000 [18:16<28:48, 4.18it/s]
train loss:0.01124136097223381
40%|██████████████████████████████▌ | 4772/12000 [18:16<28:08, 4.28it/s]
train loss:0.011158009203401702
40%|██████████████████████████████▋ | 4773/12000 [18:16<27:55, 4.31it/s]
train loss:0.004351565657140201
40%|██████████████████████████████▋ | 4774/12000 [18:16<27:48, 4.33it/s]
train loss:0.019616460619713862
40%|██████████████████████████████▋ | 4775/12000 [18:17<27:38, 4.36it/s]
train loss:0.03670244573871344
40%|██████████████████████████████▋ | 4776/12000 [18:17<27:24, 4.39it/s]
train loss:0.0005749397144518741
40%|██████████████████████████████▋ | 4777/12000 [18:17<27:28, 4.38it/s]
train loss:0.01011055441209412
40%|██████████████████████████████▋ | 4778/12000 [18:17<27:28, 4.38it/s]
train loss:0.0033332849077343215
40%|██████████████████████████████▋ | 4779/12000 [18:17<27:22, 4.40it/s]
train loss:0.0077111460117293374
40%|██████████████████████████████▋ | 4780/12000 [18:18<27:04, 4.44it/s]
train loss:0.01904891407082071
40%|██████████████████████████████▋ | 4781/12000 [18:18<27:09, 4.43it/s]
train loss:0.01570728523522843
40%|██████████████████████████████▋ | 4782/12000 [18:18<27:11, 4.43it/s]
train loss:0.02984150884585744
40%|██████████████████████████████▋ | 4783/12000 [18:18<27:22, 4.39it/s]
train loss:0.036146957549230786
40%|██████████████████████████████▋ | 4784/12000 [18:19<27:25, 4.38it/s]
train loss:0.010099168398265015
40%|██████████████████████████████▋ | 4785/12000 [18:19<27:18, 4.40it/s]
train loss:0.011219297067084341
40%|██████████████████████████████▋ | 4786/12000 [18:19<27:27, 4.38it/s]
train loss:0.010469941329732745
40%|██████████████████████████████▋ | 4787/12000 [18:19<27:24, 4.39it/s]
train loss:0.018820860577879846
40%|██████████████████████████████▋ | 4788/12000 [18:20<27:22, 4.39it/s]
train loss:0.00992817589983766
40%|██████████████████████████████▋ | 4789/12000 [18:20<26:49, 4.48it/s]
train loss:0.021008260961391766
40%|██████████████████████████████▋ | 4790/12000 [18:20<26:45, 4.49it/s]
train loss:0.0030190780678788338
40%|██████████████████████████████▋ | 4791/12000 [18:20<26:44, 4.49it/s]
train loss:0.017183495346709578
40%|██████████████████████████████▋ | 4792/12000 [18:20<27:07, 4.43it/s]
train loss:0.013467442294159328
40%|██████████████████████████████▊ | 4793/12000 [18:21<27:00, 4.45it/s]
train loss:0.011688250774359749
40%|██████████████████████████████▊ | 4794/12000 [18:21<27:00, 4.45it/s]
train loss:0.0071558835634251946
40%|██████████████████████████████▊ | 4795/12000 [18:21<27:06, 4.43it/s]
train loss:0.02384607692539939
40%|██████████████████████████████▊ | 4796/12000 [18:21<27:05, 4.43it/s]
train loss:0.025460726561828757
40%|██████████████████████████████▊ | 4797/12000 [18:22<26:44, 4.49it/s]
train loss:0.0080812320014025
40%|██████████████████████████████▊ | 4798/12000 [18:22<27:06, 4.43it/s]
train loss:0.004195607397087818
40%|██████████████████████████████▊ | 4799/12000 [18:22<27:12, 4.41it/s]
train loss:0.020066873407021336
40%|██████████████████████████████▊ | 4800/12000 [18:22<27:17, 4.40it/s]
train loss:0.021909432406181702 train loss:0.0053823763991707185
40%|██████████████████████████████ | 4801/12000 [18:24<1:23:54, 1.43it/s]
=== epoch:9, train acc:0.996, test acc:0.985 ===
40%|██████████████████████████████ | 4802/12000 [18:24<1:07:10, 1.79it/s]
train loss:0.022200578480259404
40%|██████████████████████████████▊ | 4803/12000 [18:24<55:07, 2.18it/s]
train loss:0.003948847204157198
40%|██████████████████████████████▊ | 4804/12000 [18:25<46:27, 2.58it/s]
train loss:0.010548223449377283
40%|██████████████████████████████▊ | 4805/12000 [18:25<40:46, 2.94it/s]
train loss:0.01879335189041978
40%|██████████████████████████████▊ | 4806/12000 [18:25<36:55, 3.25it/s]
train loss:0.0006272895388242338
40%|██████████████████████████████▊ | 4807/12000 [18:25<34:12, 3.50it/s]
train loss:0.020768012598705907
40%|██████████████████████████████▊ | 4808/12000 [18:26<32:08, 3.73it/s]
train loss:0.0029447852005099508
40%|██████████████████████████████▊ | 4809/12000 [18:26<30:36, 3.92it/s]
train loss:0.00611788740903969
40%|██████████████████████████████▊ | 4810/12000 [18:26<29:38, 4.04it/s]
train loss:0.027162006397354686
40%|██████████████████████████████▊ | 4811/12000 [18:26<29:01, 4.13it/s]
train loss:0.006476253490652517
40%|██████████████████████████████▉ | 4812/12000 [18:27<28:37, 4.18it/s]
train loss:0.008081396490224147
40%|██████████████████████████████▉ | 4813/12000 [18:27<27:45, 4.32it/s]
train loss:0.007732381175816039
40%|██████████████████████████████▉ | 4814/12000 [18:27<27:39, 4.33it/s]
train loss:0.046008950677542994
40%|██████████████████████████████▉ | 4815/12000 [18:27<27:39, 4.33it/s]
train loss:0.008437158176207306
40%|██████████████████████████████▉ | 4816/12000 [18:27<27:34, 4.34it/s]
train loss:0.0018754869498826098
40%|██████████████████████████████▉ | 4817/12000 [18:28<27:16, 4.39it/s]
train loss:0.023565362812275677
40%|██████████████████████████████▉ | 4818/12000 [18:28<27:03, 4.42it/s]
train loss:0.008339636926105296
40%|██████████████████████████████▉ | 4819/12000 [18:28<27:01, 4.43it/s]
train loss:0.00043690931906038155
40%|██████████████████████████████▉ | 4820/12000 [18:28<27:24, 4.37it/s]
train loss:0.012897342280943642
40%|██████████████████████████████▉ | 4821/12000 [18:29<27:33, 4.34it/s]
train loss:0.02988144702367038
40%|██████████████████████████████▉ | 4822/12000 [18:29<27:09, 4.41it/s]
train loss:0.0037638386415933876
40%|██████████████████████████████▉ | 4823/12000 [18:29<28:10, 4.25it/s]
train loss:0.009027834130985185
40%|██████████████████████████████▉ | 4824/12000 [18:29<28:19, 4.22it/s]
train loss:0.01262122939363281
40%|██████████████████████████████▉ | 4825/12000 [18:30<28:37, 4.18it/s]
train loss:0.0034209427576190545
40%|██████████████████████████████▉ | 4826/12000 [18:30<28:00, 4.27it/s]
train loss:0.030716294602040953
40%|██████████████████████████████▉ | 4827/12000 [18:30<28:58, 4.13it/s]
train loss:0.002344092808833228
40%|██████████████████████████████▉ | 4828/12000 [18:30<29:10, 4.10it/s]
train loss:0.027920798633289702
40%|██████████████████████████████▉ | 4829/12000 [18:30<28:36, 4.18it/s]
train loss:0.0056676320367677405
40%|██████████████████████████████▉ | 4830/12000 [18:31<28:05, 4.25it/s]
train loss:0.010501907347847766
40%|██████████████████████████████▉ | 4831/12000 [18:31<27:53, 4.28it/s]
train loss:0.0023456966611124876
40%|███████████████████████████████ | 4832/12000 [18:31<27:44, 4.31it/s]
train loss:0.00857441481245285
40%|███████████████████████████████ | 4833/12000 [18:31<27:31, 4.34it/s]
train loss:0.001844775839988321
40%|███████████████████████████████ | 4834/12000 [18:32<27:20, 4.37it/s]
train loss:0.008656594813161524
40%|███████████████████████████████ | 4835/12000 [18:32<27:07, 4.40it/s]
train loss:0.052334259642041726
40%|███████████████████████████████ | 4836/12000 [18:32<27:05, 4.41it/s]
train loss:0.027997743925078998
40%|███████████████████████████████ | 4837/12000 [18:32<27:05, 4.41it/s]
train loss:0.011992196870386383
40%|███████████████████████████████ | 4838/12000 [18:33<27:02, 4.41it/s]
train loss:0.004471352434677398
40%|███████████████████████████████ | 4839/12000 [18:33<26:41, 4.47it/s]
train loss:0.01016282233525442
40%|███████████████████████████████ | 4840/12000 [18:33<26:46, 4.46it/s]
train loss:0.027596190601277555
40%|███████████████████████████████ | 4841/12000 [18:33<26:49, 4.45it/s]
train loss:0.01905189622913744
40%|███████████████████████████████ | 4842/12000 [18:33<26:54, 4.43it/s]
train loss:0.03628721325178395
40%|███████████████████████████████ | 4843/12000 [18:34<26:49, 4.45it/s]
train loss:0.010594568516152411
40%|███████████████████████████████ | 4844/12000 [18:34<27:26, 4.35it/s]
train loss:0.010984904979965085
40%|███████████████████████████████ | 4845/12000 [18:34<27:15, 4.37it/s]
train loss:0.06928833481722523
40%|███████████████████████████████ | 4846/12000 [18:34<27:13, 4.38it/s]
train loss:0.009389277476189412
40%|███████████████████████████████ | 4847/12000 [18:35<27:06, 4.40it/s]
train loss:0.011623921126288024
40%|███████████████████████████████ | 4848/12000 [18:35<26:45, 4.45it/s]
train loss:0.00769576082017137
40%|███████████████████████████████ | 4849/12000 [18:35<26:45, 4.45it/s]
train loss:0.007635379950394912
40%|███████████████████████████████ | 4850/12000 [18:35<26:51, 4.44it/s]
train loss:0.0016300005882224937
40%|███████████████████████████████▏ | 4851/12000 [18:35<26:51, 4.44it/s]
train loss:0.04172071807018245
40%|███████████████████████████████▏ | 4852/12000 [18:36<26:29, 4.50it/s]
train loss:0.03743546896419198
40%|███████████████████████████████▏ | 4853/12000 [18:36<26:40, 4.46it/s]
train loss:0.036643376636047796
40%|███████████████████████████████▏ | 4854/12000 [18:36<26:49, 4.44it/s]
train loss:0.001870514923768034
40%|███████████████████████████████▏ | 4855/12000 [18:36<27:47, 4.28it/s]
train loss:0.007270998371455625
40%|███████████████████████████████▏ | 4856/12000 [18:37<28:13, 4.22it/s]
train loss:0.008070243024509325
40%|███████████████████████████████▏ | 4857/12000 [18:37<27:53, 4.27it/s]
train loss:0.031150594419477307
40%|███████████████████████████████▏ | 4858/12000 [18:37<27:36, 4.31it/s]
train loss:0.014104577044461268
40%|███████████████████████████████▏ | 4859/12000 [18:37<27:24, 4.34it/s]
train loss:0.006611820549499
40%|███████████████████████████████▏ | 4860/12000 [18:38<27:18, 4.36it/s]
train loss:0.0032904630579543783
41%|███████████████████████████████▏ | 4861/12000 [18:38<26:49, 4.44it/s]
train loss:0.059580536823836114
41%|███████████████████████████████▏ | 4862/12000 [18:38<26:48, 4.44it/s]
train loss:0.006526801409334615
41%|███████████████████████████████▏ | 4863/12000 [18:38<26:50, 4.43it/s]
train loss:0.010162344877729011
41%|███████████████████████████████▏ | 4864/12000 [18:38<26:50, 4.43it/s]
train loss:0.046759592660532784
41%|███████████████████████████████▏ | 4865/12000 [18:39<26:38, 4.46it/s]
train loss:0.011925584552259954
41%|███████████████████████████████▏ | 4866/12000 [18:39<26:46, 4.44it/s]
train loss:0.011315139383060502
41%|███████████████████████████████▏ | 4867/12000 [18:39<26:59, 4.40it/s]
train loss:0.0045573476509791384
41%|███████████████████████████████▏ | 4868/12000 [18:39<27:07, 4.38it/s]
train loss:0.009797156530193345
41%|███████████████████████████████▏ | 4869/12000 [18:40<27:11, 4.37it/s]
train loss:0.024815648982194332
41%|███████████████████████████████▏ | 4870/12000 [18:40<26:50, 4.43it/s]
train loss:0.006027971461913251
41%|███████████████████████████████▎ | 4871/12000 [18:40<26:57, 4.41it/s]
train loss:0.006413020928707266
41%|███████████████████████████████▎ | 4872/12000 [18:40<26:53, 4.42it/s]
train loss:0.045677224770895836
41%|███████████████████████████████▎ | 4873/12000 [18:40<27:00, 4.40it/s]
train loss:0.006920280051401324
41%|███████████████████████████████▎ | 4874/12000 [18:41<26:58, 4.40it/s]
train loss:0.010815129691641414
41%|███████████████████████████████▎ | 4875/12000 [18:41<27:39, 4.29it/s]
train loss:0.004261098201480885
41%|███████████████████████████████▎ | 4876/12000 [18:41<27:43, 4.28it/s]
train loss:0.005528448511735201
41%|███████████████████████████████▎ | 4877/12000 [18:41<27:34, 4.30it/s]
train loss:0.012570925254450522
41%|███████████████████████████████▎ | 4878/12000 [18:42<27:05, 4.38it/s]
train loss:0.009820920057245185
41%|███████████████████████████████▎ | 4879/12000 [18:42<27:07, 4.38it/s]
train loss:0.0049969815237570735
41%|███████████████████████████████▎ | 4880/12000 [18:42<27:07, 4.37it/s]
train loss:0.0035453480457597266
41%|███████████████████████████████▎ | 4881/12000 [18:42<27:08, 4.37it/s]
train loss:0.12210958070252755
41%|███████████████████████████████▎ | 4882/12000 [18:43<27:06, 4.38it/s]
train loss:0.007743083548630173
41%|███████████████████████████████▎ | 4883/12000 [18:43<27:04, 4.38it/s]
train loss:0.004459020875855237
41%|███████████████████████████████▎ | 4884/12000 [18:43<26:54, 4.41it/s]
train loss:0.0109737806693979
41%|███████████████████████████████▎ | 4885/12000 [18:43<27:15, 4.35it/s]
train loss:0.02268091205832691
41%|███████████████████████████████▎ | 4886/12000 [18:43<27:16, 4.35it/s]
train loss:0.019343728392863024
41%|███████████████████████████████▎ | 4887/12000 [18:44<26:46, 4.43it/s]
train loss:0.005173841027317352
41%|███████████████████████████████▎ | 4888/12000 [18:44<27:07, 4.37it/s]
train loss:0.00636409263295294
41%|███████████████████████████████▎ | 4889/12000 [18:44<27:11, 4.36it/s]
train loss:0.007582333521511533
41%|███████████████████████████████▍ | 4890/12000 [18:44<27:20, 4.34it/s]
train loss:0.004771633013613264
41%|███████████████████████████████▍ | 4891/12000 [18:45<27:01, 4.38it/s]
train loss:0.014253301353839912
41%|███████████████████████████████▍ | 4892/12000 [18:45<26:52, 4.41it/s]
train loss:0.004856078464326616
41%|███████████████████████████████▍ | 4893/12000 [18:45<27:00, 4.38it/s]
train loss:0.007443328050734185
41%|███████████████████████████████▍ | 4894/12000 [18:45<27:12, 4.35it/s]
train loss:0.009557618620030645
41%|███████████████████████████████▍ | 4895/12000 [18:46<27:12, 4.35it/s]
train loss:0.004310627499285021
41%|███████████████████████████████▍ | 4896/12000 [18:46<26:27, 4.47it/s]
train loss:0.01171824741756251
41%|███████████████████████████████▍ | 4897/12000 [18:46<27:20, 4.33it/s]
train loss:0.012505595639101278
41%|███████████████████████████████▍ | 4898/12000 [18:46<27:11, 4.35it/s]
train loss:0.016147548059011068
41%|███████████████████████████████▍ | 4899/12000 [18:46<27:13, 4.35it/s]
train loss:0.008551521003220455
41%|███████████████████████████████▍ | 4900/12000 [18:47<26:46, 4.42it/s]
train loss:0.010598599410255417
41%|███████████████████████████████▍ | 4901/12000 [18:47<26:43, 4.43it/s]
train loss:0.01056852543343642
41%|███████████████████████████████▍ | 4902/12000 [18:47<26:44, 4.42it/s]
train loss:0.009229363151751317
41%|███████████████████████████████▍ | 4903/12000 [18:47<26:50, 4.41it/s]
train loss:0.013225974356936182
41%|███████████████████████████████▍ | 4904/12000 [18:48<26:37, 4.44it/s]
train loss:0.01889295727831863
41%|███████████████████████████████▍ | 4905/12000 [18:48<26:39, 4.44it/s]
train loss:0.010689844780800206
41%|███████████████████████████████▍ | 4906/12000 [18:48<26:40, 4.43it/s]
train loss:0.011494468845171033
41%|███████████████████████████████▍ | 4907/12000 [18:48<26:44, 4.42it/s]
train loss:0.005287455849390467
41%|███████████████████████████████▍ | 4908/12000 [18:48<26:43, 4.42it/s]
train loss:0.0029985237853888897
41%|███████████████████████████████▍ | 4909/12000 [18:49<26:28, 4.46it/s]
train loss:0.006961215090838971
41%|███████████████████████████████▌ | 4910/12000 [18:49<26:34, 4.45it/s]
train loss:0.025876444973843515
41%|███████████████████████████████▌ | 4911/12000 [18:49<26:39, 4.43it/s]
train loss:0.00880922476043679
41%|███████████████████████████████▌ | 4912/12000 [18:49<26:43, 4.42it/s]
train loss:0.0012822878543881683
41%|███████████████████████████████▌ | 4913/12000 [18:50<26:43, 4.42it/s]
train loss:0.0070413983297754066
41%|███████████████████████████████▌ | 4914/12000 [18:50<26:35, 4.44it/s]
train loss:0.008130770327365469
41%|███████████████████████████████▌ | 4915/12000 [18:50<26:37, 4.44it/s]
train loss:0.019299731273368356
41%|███████████████████████████████▌ | 4916/12000 [18:50<26:47, 4.41it/s]
train loss:0.010973958323257147
41%|███████████████████████████████▌ | 4917/12000 [18:50<26:48, 4.40it/s]
train loss:0.0046196958658238875
41%|███████████████████████████████▌ | 4918/12000 [18:51<26:27, 4.46it/s]
train loss:0.006306965718777107
41%|███████████████████████████████▌ | 4919/12000 [18:51<26:33, 4.44it/s]
train loss:0.0007554994856022178
41%|███████████████████████████████▌ | 4920/12000 [18:51<26:35, 4.44it/s]
train loss:0.003697118166777448
41%|███████████████████████████████▌ | 4921/12000 [18:51<26:38, 4.43it/s]
train loss:0.006517804270268417
41%|███████████████████████████████▌ | 4922/12000 [18:52<26:30, 4.45it/s]
train loss:0.00628852762334358
41%|███████████████████████████████▌ | 4923/12000 [18:52<26:30, 4.45it/s]
train loss:0.042959457352841283
41%|███████████████████████████████▌ | 4924/12000 [18:52<26:35, 4.44it/s]
train loss:0.006108227050488679
41%|███████████████████████████████▌ | 4925/12000 [18:52<26:37, 4.43it/s]
train loss:0.0047326932459764125
41%|███████████████████████████████▌ | 4926/12000 [18:53<26:42, 4.41it/s]
train loss:0.01794417357631888
41%|███████████████████████████████▌ | 4927/12000 [18:53<26:22, 4.47it/s]
train loss:0.04997356531122506
41%|███████████████████████████████▌ | 4928/12000 [18:53<26:28, 4.45it/s]
train loss:0.005560269636092304
41%|███████████████████████████████▋ | 4929/12000 [18:53<26:32, 4.44it/s]
train loss:0.009448526668346315
41%|███████████████████████████████▋ | 4930/12000 [18:53<26:34, 4.43it/s]
train loss:0.02052899942664287
41%|███████████████████████████████▋ | 4931/12000 [18:54<26:27, 4.45it/s]
train loss:0.01425807028553912
41%|███████████████████████████████▋ | 4932/12000 [18:54<26:25, 4.46it/s]
train loss:0.009717503836001262
41%|███████████████████████████████▋ | 4933/12000 [18:54<26:30, 4.44it/s]
train loss:0.004347627666288541
41%|███████████████████████████████▋ | 4934/12000 [18:54<26:39, 4.42it/s]
train loss:0.008459787238599229
41%|███████████████████████████████▋ | 4935/12000 [18:55<26:45, 4.40it/s]
train loss:0.024234148403940385
41%|███████████████████████████████▋ | 4936/12000 [18:55<26:31, 4.44it/s]
train loss:0.012011638743632909
41%|███████████████████████████████▋ | 4937/12000 [18:55<26:35, 4.43it/s]
train loss:0.008206591751280775
41%|███████████████████████████████▋ | 4938/12000 [18:55<26:36, 4.42it/s]
train loss:0.007906874488779162
41%|███████████████████████████████▋ | 4939/12000 [18:55<26:39, 4.42it/s]
train loss:0.002912176142848165
41%|███████████████████████████████▋ | 4940/12000 [18:56<26:25, 4.45it/s]
train loss:0.005078334965476622
41%|███████████████████████████████▋ | 4941/12000 [18:56<26:27, 4.45it/s]
train loss:0.0031543903911806863
41%|███████████████████████████████▋ | 4942/12000 [18:56<26:32, 4.43it/s]
train loss:0.002016679905164675
41%|███████████████████████████████▋ | 4943/12000 [18:56<26:36, 4.42it/s]
train loss:0.0025136733303574
41%|███████████████████████████████▋ | 4944/12000 [18:57<26:40, 4.41it/s]
train loss:0.003070134976014978
41%|███████████████████████████████▋ | 4945/12000 [18:57<26:18, 4.47it/s]
train loss:0.010136301018037997
41%|███████████████████████████████▋ | 4946/12000 [18:57<26:31, 4.43it/s]
train loss:0.003185574364995683
41%|███████████████████████████████▋ | 4947/12000 [18:57<26:35, 4.42it/s]
train loss:0.017226396219731484
41%|███████████████████████████████▋ | 4948/12000 [18:57<26:43, 4.40it/s]
train loss:0.0179512598821103
41%|███████████████████████████████▊ | 4949/12000 [18:58<26:25, 4.45it/s]
train loss:0.020911422942246002
41%|███████████████████████████████▊ | 4950/12000 [18:58<26:29, 4.44it/s]
train loss:0.008215233268029079
41%|███████████████████████████████▊ | 4951/12000 [18:58<26:31, 4.43it/s]
train loss:0.016173409260215363
41%|███████████████████████████████▊ | 4952/12000 [18:58<26:34, 4.42it/s]
train loss:0.005760361563592421
41%|███████████████████████████████▊ | 4953/12000 [18:59<26:26, 4.44it/s]
train loss:0.0053172594069032944
41%|███████████████████████████████▊ | 4954/12000 [18:59<26:22, 4.45it/s]
train loss:0.005178806235150439
41%|███████████████████████████████▊ | 4955/12000 [18:59<26:26, 4.44it/s]
train loss:0.005487464580686374
41%|███████████████████████████████▊ | 4956/12000 [18:59<26:34, 4.42it/s]
train loss:0.005864884345864646
41%|███████████████████████████████▊ | 4957/12000 [19:00<26:39, 4.40it/s]
train loss:0.0038727849522103984
41%|███████████████████████████████▊ | 4958/12000 [19:00<26:21, 4.45it/s]
train loss:0.0057588181862195794
41%|███████████████████████████████▊ | 4959/12000 [19:00<26:25, 4.44it/s]
train loss:0.002585173239393975
41%|███████████████████████████████▊ | 4960/12000 [19:00<26:31, 4.42it/s]
train loss:0.002471346484607265
41%|███████████████████████████████▊ | 4961/12000 [19:00<26:40, 4.40it/s]
train loss:0.00943463596564521
41%|███████████████████████████████▊ | 4962/12000 [19:01<26:28, 4.43it/s]
train loss:0.007883005145258075
41%|███████████████████████████████▊ | 4963/12000 [19:01<26:35, 4.41it/s]
train loss:0.0011080000926775664
41%|███████████████████████████████▊ | 4964/12000 [19:01<26:36, 4.41it/s]
train loss:0.007325955703614638
41%|███████████████████████████████▊ | 4965/12000 [19:01<26:44, 4.39it/s]
train loss:0.005103122276548906
41%|███████████████████████████████▊ | 4966/12000 [19:02<28:25, 4.12it/s]
train loss:0.006887528849279012
41%|███████████████████████████████▊ | 4967/12000 [19:02<27:49, 4.21it/s]
train loss:0.0025566542224308712
41%|███████████████████████████████▉ | 4968/12000 [19:02<27:28, 4.27it/s]
train loss:0.015052722738334821
41%|███████████████████████████████▉ | 4969/12000 [19:02<27:15, 4.30it/s]
train loss:0.011471480313730555
41%|███████████████████████████████▉ | 4970/12000 [19:03<27:05, 4.32it/s]
train loss:0.00700034147500337
41%|███████████████████████████████▉ | 4971/12000 [19:03<27:34, 4.25it/s]
train loss:0.007658223373138454
41%|███████████████████████████████▉ | 4972/12000 [19:03<27:14, 4.30it/s]
train loss:0.009727564685383168
41%|███████████████████████████████▉ | 4973/12000 [19:03<26:59, 4.34it/s]
train loss:0.007075921805082705
41%|███████████████████████████████▉ | 4974/12000 [19:03<26:56, 4.35it/s]
train loss:0.013270139416569866
41%|███████████████████████████████▉ | 4975/12000 [19:04<26:26, 4.43it/s]
train loss:0.005554261467581468
41%|███████████████████████████████▉ | 4976/12000 [19:04<26:29, 4.42it/s]
train loss:0.02730302625630259
41%|███████████████████████████████▉ | 4977/12000 [19:04<26:29, 4.42it/s]
train loss:0.007772688128892758
41%|███████████████████████████████▉ | 4978/12000 [19:04<26:31, 4.41it/s]
train loss:0.012164707954201182
41%|███████████████████████████████▉ | 4979/12000 [19:05<26:38, 4.39it/s]
train loss:0.0015664903806356094
42%|███████████████████████████████▉ | 4980/12000 [19:05<26:19, 4.44it/s]
train loss:0.009426339802470188
42%|███████████████████████████████▉ | 4981/12000 [19:05<26:24, 4.43it/s]
train loss:0.0024959942547914085
42%|███████████████████████████████▉ | 4982/12000 [19:05<26:30, 4.41it/s]
train loss:0.00814062303929465
42%|███████████████████████████████▉ | 4983/12000 [19:05<26:35, 4.40it/s]
train loss:0.0039663319632222875
42%|███████████████████████████████▉ | 4984/12000 [19:06<26:13, 4.46it/s]
train loss:0.0134721340369311
42%|███████████████████████████████▉ | 4985/12000 [19:06<26:18, 4.44it/s]
train loss:0.007627467601478189
42%|███████████████████████████████▉ | 4986/12000 [19:06<26:24, 4.43it/s]
train loss:0.0067900940428623595
42%|███████████████████████████████▉ | 4987/12000 [19:06<26:26, 4.42it/s]
train loss:0.004310184910901812
42%|████████████████████████████████ | 4988/12000 [19:07<26:43, 4.37it/s]
train loss:0.016692104788481096
42%|████████████████████████████████ | 4989/12000 [19:07<26:22, 4.43it/s]
train loss:0.009920507035605177
42%|████████████████████████████████ | 4990/12000 [19:07<26:25, 4.42it/s]
train loss:0.011149353722352977
42%|████████████████████████████████ | 4991/12000 [19:07<26:24, 4.42it/s]
train loss:0.016444458596929314
42%|████████████████████████████████ | 4992/12000 [19:07<26:32, 4.40it/s]
train loss:0.0018734316764132922
42%|████████████████████████████████ | 4993/12000 [19:08<26:06, 4.47it/s]
train loss:0.007532321212118071
42%|████████████████████████████████ | 4994/12000 [19:08<26:18, 4.44it/s]
train loss:0.010397737914548299
42%|████████████████████████████████ | 4995/12000 [19:08<26:24, 4.42it/s]
train loss:0.0036585668824341677
42%|████████████████████████████████ | 4996/12000 [19:08<26:25, 4.42it/s]
train loss:0.005156404095304629
42%|████████████████████████████████ | 4997/12000 [19:09<26:17, 4.44it/s]
train loss:0.004911250521391538
42%|████████████████████████████████ | 4998/12000 [19:09<26:10, 4.46it/s]
train loss:0.005499113229535751
42%|████████████████████████████████ | 4999/12000 [19:09<26:17, 4.44it/s]
train loss:0.004238794055271805
42%|████████████████████████████████ | 5000/12000 [19:09<27:14, 4.28it/s]
train loss:0.011432914188899614
42%|████████████████████████████████ | 5001/12000 [19:10<27:07, 4.30it/s]
train loss:0.006218002328232929
42%|████████████████████████████████ | 5002/12000 [19:10<27:56, 4.17it/s]
train loss:0.01064977248233623
42%|████████████████████████████████ | 5003/12000 [19:10<28:21, 4.11it/s]
train loss:0.006564545139141239
42%|████████████████████████████████ | 5004/12000 [19:10<29:08, 4.00it/s]
train loss:0.010740053386061175
42%|████████████████████████████████ | 5005/12000 [19:11<28:27, 4.10it/s]
train loss:0.009794244516891044
42%|████████████████████████████████ | 5006/12000 [19:11<27:38, 4.22it/s]
train loss:0.011716411650176142
42%|████████████████████████████████▏ | 5007/12000 [19:11<27:19, 4.26it/s]
train loss:0.0007724930261188255
42%|████████████████████████████████▏ | 5008/12000 [19:11<26:38, 4.37it/s]
train loss:0.0009570569125020063
42%|████████████████████████████████▏ | 5009/12000 [19:11<26:39, 4.37it/s]
train loss:0.0026909995973239116
42%|████████████████████████████████▏ | 5010/12000 [19:12<26:14, 4.44it/s]
train loss:0.01919238976473449
42%|████████████████████████████████▏ | 5011/12000 [19:12<26:22, 4.42it/s]
train loss:0.004333635363066681
42%|████████████████████████████████▏ | 5012/12000 [19:12<26:19, 4.42it/s]
train loss:0.004944318259519021
42%|████████████████████████████████▏ | 5013/12000 [19:12<26:29, 4.40it/s]
train loss:0.0006884714107831109
42%|████████████████████████████████▏ | 5014/12000 [19:13<26:28, 4.40it/s]
train loss:0.010471785202752867
42%|████████████████████████████████▏ | 5015/12000 [19:13<26:22, 4.41it/s]
train loss:0.0064702395972366725
42%|████████████████████████████████▏ | 5016/12000 [19:13<26:32, 4.39it/s]
train loss:0.010552176959527804
42%|████████████████████████████████▏ | 5017/12000 [19:13<26:28, 4.40it/s]
train loss:0.007731376485421566
42%|████████████████████████████████▏ | 5018/12000 [19:13<26:42, 4.36it/s]
train loss:0.004801167086688304
42%|████████████████████████████████▏ | 5019/12000 [19:14<26:16, 4.43it/s]
train loss:0.005522333632662979
42%|████████████████████████████████▏ | 5020/12000 [19:14<26:20, 4.42it/s]
train loss:0.008209964303350666
42%|████████████████████████████████▏ | 5021/12000 [19:14<26:20, 4.42it/s]
train loss:0.007458283505500152
42%|████████████████████████████████▏ | 5022/12000 [19:14<26:23, 4.41it/s]
train loss:0.0011226952568280887
42%|████████████████████████████████▏ | 5023/12000 [19:15<26:13, 4.44it/s]
train loss:0.007925581690236341
42%|████████████████████████████████▏ | 5024/12000 [19:15<26:06, 4.45it/s]
train loss:0.02620068066635546
42%|████████████████████████████████▏ | 5025/12000 [19:15<26:11, 4.44it/s]
train loss:0.0030025753153952728
42%|████████████████████████████████▎ | 5026/12000 [19:15<26:14, 4.43it/s]
train loss:0.00655199376390905
42%|████████████████████████████████▎ | 5027/12000 [19:16<26:34, 4.37it/s]
train loss:0.0031161032344731022
42%|████████████████████████████████▎ | 5028/12000 [19:16<26:08, 4.44it/s]
train loss:0.010926372878098776
42%|████████████████████████████████▎ | 5029/12000 [19:16<26:17, 4.42it/s]
train loss:0.006766221144624364
42%|████████████████████████████████▎ | 5030/12000 [19:16<26:21, 4.41it/s]
train loss:0.006058484209154938
42%|████████████████████████████████▎ | 5031/12000 [19:16<26:29, 4.38it/s]
train loss:0.0014697124622705653
42%|████████████████████████████████▎ | 5032/12000 [19:17<26:07, 4.45it/s]
train loss:0.01905558751808397
42%|████████████████████████████████▎ | 5033/12000 [19:17<26:07, 4.44it/s]
train loss:0.02504748241829543
42%|████████████████████████████████▎ | 5034/12000 [19:17<26:12, 4.43it/s]
train loss:0.3012455584248822
42%|████████████████████████████████▎ | 5035/12000 [19:17<26:14, 4.42it/s]
train loss:0.014195104403357275
42%|████████████████████████████████▎ | 5036/12000 [19:18<26:08, 4.44it/s]
train loss:0.005588440571468876
42%|████████████████████████████████▎ | 5037/12000 [19:18<25:59, 4.46it/s]
train loss:0.0066673138297575485
42%|████████████████████████████████▎ | 5038/12000 [19:18<26:03, 4.45it/s]
train loss:0.02289333119360961
42%|████████████████████████████████▎ | 5039/12000 [19:18<26:05, 4.45it/s]
train loss:0.011046731507595083
42%|████████████████████████████████▎ | 5040/12000 [19:18<25:58, 4.47it/s]
train loss:0.001361465093563095
42%|████████████████████████████████▎ | 5041/12000 [19:19<26:10, 4.43it/s]
train loss:0.01672637265969115
42%|████████████████████████████████▎ | 5042/12000 [19:19<26:12, 4.43it/s]
train loss:0.002428138624817072
42%|████████████████████████████████▎ | 5043/12000 [19:19<26:05, 4.44it/s]
train loss:0.0157810226830593
42%|████████████████████████████████▎ | 5044/12000 [19:19<26:17, 4.41it/s]
train loss:0.08342587076586963
42%|████████████████████████████████▎ | 5045/12000 [19:20<26:03, 4.45it/s]
train loss:0.003420239101424673
42%|████████████████████████████████▍ | 5046/12000 [19:20<26:07, 4.44it/s]
train loss:0.004846023277320645
42%|████████████████████████████████▍ | 5047/12000 [19:20<26:22, 4.39it/s]
train loss:0.008763809972070356
42%|████████████████████████████████▍ | 5048/12000 [19:20<26:07, 4.43it/s]
train loss:0.0011934562331962523
42%|████████████████████████████████▍ | 5049/12000 [19:20<26:13, 4.42it/s]
train loss:0.0037815642332172925
42%|████████████████████████████████▍ | 5050/12000 [19:21<25:51, 4.48it/s]
train loss:0.01011548793808152
42%|████████████████████████████████▍ | 5051/12000 [19:21<25:57, 4.46it/s]
train loss:0.008694466587695727
42%|████████████████████████████████▍ | 5052/12000 [19:21<26:16, 4.41it/s]
train loss:0.014239989143907766
42%|████████████████████████████████▍ | 5053/12000 [19:21<26:10, 4.42it/s]
train loss:0.0038130653138842797
42%|████████████████████████████████▍ | 5054/12000 [19:22<26:19, 4.40it/s]
train loss:0.0005150006990459027
42%|████████████████████████████████▍ | 5055/12000 [19:22<26:13, 4.41it/s]
train loss:0.03282233579505444
42%|████████████████████████████████▍ | 5056/12000 [19:22<26:11, 4.42it/s]
train loss:0.009293250809717374
42%|████████████████████████████████▍ | 5057/12000 [19:22<26:08, 4.43it/s]
train loss:0.008665858276817652
42%|████████████████████████████████▍ | 5058/12000 [19:23<26:09, 4.42it/s]
train loss:0.011243464083407985
42%|████████████████████████████████▍ | 5059/12000 [19:23<25:46, 4.49it/s]
train loss:0.006538926388628743
42%|████████████████████████████████▍ | 5060/12000 [19:23<26:37, 4.35it/s]
train loss:0.004877295279161316
42%|████████████████████████████████▍ | 5061/12000 [19:23<26:30, 4.36it/s]
train loss:0.020461237488969723
42%|████████████████████████████████▍ | 5062/12000 [19:23<26:25, 4.38it/s]
train loss:0.00277376459262294
42%|████████████████████████████████▍ | 5063/12000 [19:24<25:54, 4.46it/s]
train loss:0.009489941267403441
42%|████████████████████████████████▍ | 5064/12000 [19:24<26:00, 4.44it/s]
train loss:0.010031921326166537
42%|████████████████████████████████▌ | 5065/12000 [19:24<26:04, 4.43it/s]
train loss:0.002983430735939591
42%|████████████████████████████████▌ | 5066/12000 [19:24<26:06, 4.43it/s]
train loss:0.009467938619431205
42%|████████████████████████████████▌ | 5067/12000 [19:25<26:07, 4.42it/s]
train loss:0.007895360915408933
42%|████████████████████████████████▌ | 5068/12000 [19:25<25:49, 4.47it/s]
train loss:0.005603379957257421
42%|████████████████████████████████▌ | 5069/12000 [19:25<25:54, 4.46it/s]
train loss:0.004018311216614644
42%|████████████████████████████████▌ | 5070/12000 [19:25<25:55, 4.45it/s]
train loss:0.002412780099526954
42%|████████████████████████████████▌ | 5071/12000 [19:25<26:01, 4.44it/s]
train loss:0.002866887044630096
42%|████████████████████████████████▌ | 5072/12000 [19:26<25:43, 4.49it/s]
train loss:0.0022702529736965548
42%|████████████████████████████████▌ | 5073/12000 [19:26<25:45, 4.48it/s]
train loss:0.003759226601067527
42%|████████████████████████████████▌ | 5074/12000 [19:26<25:53, 4.46it/s]
train loss:0.0036091369413204823
42%|████████████████████████████████▌ | 5075/12000 [19:26<25:57, 4.45it/s]
train loss:0.002949458409867472
42%|████████████████████████████████▌ | 5076/12000 [19:27<25:54, 4.46it/s]
train loss:0.012211737315491626
42%|████████████████████████████████▌ | 5077/12000 [19:27<25:39, 4.50it/s]
train loss:0.020257759397688705
42%|████████████████████████████████▌ | 5078/12000 [19:27<25:45, 4.48it/s]
train loss:0.001512423454784191
42%|████████████████████████████████▌ | 5079/12000 [19:27<25:52, 4.46it/s]
train loss:0.015309510444050769
42%|████████████████████████████████▌ | 5080/12000 [19:27<25:58, 4.44it/s]
train loss:0.0044296653075293155
42%|████████████████████████████████▌ | 5081/12000 [19:28<25:44, 4.48it/s]
train loss:0.00390707232730641
42%|████████████████████████████████▌ | 5082/12000 [19:28<25:49, 4.47it/s]
train loss:0.046246516034803314
42%|████████████████████████████████▌ | 5083/12000 [19:28<25:53, 4.45it/s]
train loss:0.003986161283803281
42%|████████████████████████████████▌ | 5084/12000 [19:28<25:55, 4.45it/s]
train loss:0.00984786159456658
42%|████████████████████████████████▋ | 5085/12000 [19:29<25:54, 4.45it/s]
train loss:0.015454065101634553
42%|████████████████████████████████▋ | 5086/12000 [19:29<26:06, 4.41it/s]
train loss:0.004309417250307318
42%|████████████████████████████████▋ | 5087/12000 [19:29<26:06, 4.41it/s]
train loss:0.004825928961131673
42%|████████████████████████████████▋ | 5088/12000 [19:29<26:09, 4.41it/s]
train loss:0.008194220354925388
42%|████████████████████████████████▋ | 5089/12000 [19:30<26:10, 4.40it/s]
train loss:0.013660476105076213
42%|████████████████████████████████▋ | 5090/12000 [19:30<25:49, 4.46it/s]
train loss:0.06654865165773276
42%|████████████████████████████████▋ | 5091/12000 [19:30<26:00, 4.43it/s]
train loss:0.0011735225370542077
42%|████████████████████████████████▋ | 5092/12000 [19:30<26:03, 4.42it/s]
train loss:0.014900714600505367
42%|████████████████████████████████▋ | 5093/12000 [19:30<26:09, 4.40it/s]
train loss:0.012804835668345704
42%|████████████████████████████████▋ | 5094/12000 [19:31<25:53, 4.45it/s]
train loss:0.00834129935304632
42%|████████████████████████████████▋ | 5095/12000 [19:31<26:02, 4.42it/s]
train loss:0.002925572781248369
42%|████████████████████████████████▋ | 5096/12000 [19:31<26:04, 4.41it/s]
train loss:0.00621633275917562
42%|████████████████████████████████▋ | 5097/12000 [19:31<26:08, 4.40it/s]
train loss:0.01926829485136303
42%|████████████████████████████████▋ | 5098/12000 [19:32<26:10, 4.40it/s]
train loss:0.0043430510653381035
42%|████████████████████████████████▋ | 5099/12000 [19:32<25:59, 4.42it/s]
train loss:0.0017260399688370084
42%|████████████████████████████████▋ | 5100/12000 [19:32<26:10, 4.39it/s]
train loss:0.023518236156599995
43%|████████████████████████████████▋ | 5101/12000 [19:32<26:14, 4.38it/s]
train loss:0.019471475344035365
43%|████████████████████████████████▋ | 5102/12000 [19:32<26:58, 4.26it/s]
train loss:0.010471859754854018
43%|████████████████████████████████▋ | 5103/12000 [19:33<26:27, 4.34it/s]
train loss:0.007517643106731063
43%|████████████████████████████████▊ | 5104/12000 [19:33<26:57, 4.26it/s]
train loss:0.0014221905876867565
43%|████████████████████████████████▊ | 5105/12000 [19:33<27:05, 4.24it/s]
train loss:0.0006597392383060886
43%|████████████████████████████████▊ | 5106/12000 [19:33<27:11, 4.23it/s]
train loss:0.028066507559755694
43%|████████████████████████████████▊ | 5107/12000 [19:34<26:44, 4.30it/s]
train loss:0.008171919642538342
43%|████████████████████████████████▊ | 5108/12000 [19:34<26:29, 4.34it/s]
train loss:0.006365776138407319
43%|████████████████████████████████▊ | 5109/12000 [19:34<26:32, 4.33it/s]
train loss:0.004605819929609578
43%|████████████████████████████████▊ | 5110/12000 [19:34<26:22, 4.35it/s]
train loss:0.0027212135823928203
43%|████████████████████████████████▊ | 5112/12000 [19:35<25:32, 4.50it/s]
train loss:0.008991564028672334 train loss:0.001588533126626417
43%|████████████████████████████████▊ | 5113/12000 [19:35<26:02, 4.41it/s]
train loss:0.012511253032503248
43%|████████████████████████████████▊ | 5114/12000 [19:35<26:07, 4.39it/s]
train loss:0.0037068058593558743
43%|████████████████████████████████▊ | 5115/12000 [19:35<26:04, 4.40it/s]
train loss:0.13446840595745826
43%|████████████████████████████████▊ | 5116/12000 [19:36<25:43, 4.46it/s]
train loss:0.04296519921927353
43%|████████████████████████████████▊ | 5117/12000 [19:36<25:46, 4.45it/s]
train loss:0.004489759368438682
43%|████████████████████████████████▊ | 5118/12000 [19:36<25:55, 4.43it/s]
train loss:0.011847824237042899
43%|████████████████████████████████▊ | 5119/12000 [19:36<26:07, 4.39it/s]
train loss:0.0021603583108722253
43%|████████████████████████████████▊ | 5120/12000 [19:37<26:01, 4.40it/s]
train loss:0.013248094676316413
43%|████████████████████████████████▊ | 5121/12000 [19:37<25:41, 4.46it/s]
train loss:0.010075514096684796
43%|████████████████████████████████▊ | 5122/12000 [19:37<25:48, 4.44it/s]
train loss:0.0013330050632240028
43%|████████████████████████████████▊ | 5123/12000 [19:37<25:50, 4.43it/s]
train loss:0.008134545396274569
43%|████████████████████████████████▉ | 5124/12000 [19:37<25:57, 4.42it/s]
train loss:0.021190269188313172
43%|████████████████████████████████▉ | 5125/12000 [19:38<25:48, 4.44it/s]
train loss:0.0008551721768714083
43%|████████████████████████████████▉ | 5126/12000 [19:38<25:51, 4.43it/s]
train loss:0.008903782176223696
43%|████████████████████████████████▉ | 5127/12000 [19:38<25:51, 4.43it/s]
train loss:0.010282373126400023
43%|████████████████████████████████▉ | 5128/12000 [19:38<25:56, 4.42it/s]
train loss:0.01732642236740017
43%|████████████████████████████████▉ | 5129/12000 [19:39<25:49, 4.43it/s]
train loss:0.0050862986458485885
43%|████████████████████████████████▉ | 5130/12000 [19:39<25:45, 4.45it/s]
train loss:0.015759692063605425
43%|████████████████████████████████▉ | 5131/12000 [19:39<25:45, 4.44it/s]
train loss:0.002682534667187809
43%|████████████████████████████████▉ | 5132/12000 [19:39<25:48, 4.43it/s]
train loss:0.0034642917715464938
43%|████████████████████████████████▉ | 5133/12000 [19:40<25:52, 4.42it/s]
train loss:0.002506374941890766
43%|████████████████████████████████▉ | 5134/12000 [19:40<25:32, 4.48it/s]
train loss:0.009851357432418767
43%|████████████████████████████████▉ | 5135/12000 [19:40<25:40, 4.46it/s]
train loss:0.01565167751171446
43%|████████████████████████████████▉ | 5136/12000 [19:40<25:53, 4.42it/s]
train loss:0.018253844615274243
43%|████████████████████████████████▉ | 5137/12000 [19:40<25:57, 4.41it/s]
train loss:0.0013281515524608434
43%|████████████████████████████████▉ | 5138/12000 [19:41<25:52, 4.42it/s]
train loss:0.011085800772320704
43%|████████████████████████████████▉ | 5139/12000 [19:41<25:54, 4.41it/s]
train loss:0.013106885678892814
43%|████████████████████████████████▉ | 5140/12000 [19:41<25:54, 4.41it/s]
train loss:0.0014387179115625329
43%|████████████████████████████████▉ | 5141/12000 [19:41<26:05, 4.38it/s]
train loss:0.0050945552822870225
43%|████████████████████████████████▉ | 5142/12000 [19:42<26:03, 4.38it/s]
train loss:0.012650171299775819
43%|█████████████████████████████████ | 5143/12000 [19:42<25:58, 4.40it/s]
train loss:0.021334156410912693
43%|█████████████████████████████████ | 5144/12000 [19:42<25:54, 4.41it/s]
train loss:0.009144309482690745
43%|█████████████████████████████████ | 5145/12000 [19:42<25:57, 4.40it/s]
train loss:0.002951287745696007
43%|█████████████████████████████████ | 5146/12000 [19:42<25:56, 4.40it/s]
train loss:0.010196629228712728
43%|█████████████████████████████████ | 5147/12000 [19:43<26:54, 4.24it/s]
train loss:0.034144615954770446
43%|█████████████████████████████████ | 5148/12000 [19:43<26:35, 4.30it/s]
train loss:0.009683531506132867
43%|█████████████████████████████████ | 5149/12000 [19:43<26:22, 4.33it/s]
train loss:0.007654003048762103
43%|█████████████████████████████████ | 5150/12000 [19:43<26:38, 4.28it/s]
train loss:0.003514873465660884
43%|█████████████████████████████████ | 5151/12000 [19:44<26:26, 4.32it/s]
train loss:0.008564160931977502
43%|█████████████████████████████████ | 5152/12000 [19:44<26:11, 4.36it/s]
train loss:0.012615143048565898
43%|█████████████████████████████████ | 5153/12000 [19:44<26:10, 4.36it/s]
train loss:0.015222186981410223
43%|█████████████████████████████████ | 5154/12000 [19:44<26:08, 4.36it/s]
train loss:0.010807763200772378
43%|█████████████████████████████████ | 5155/12000 [19:45<26:06, 4.37it/s]
train loss:0.011721833255269853
43%|█████████████████████████████████ | 5156/12000 [19:45<25:46, 4.43it/s]
train loss:0.007394588203514698
43%|█████████████████████████████████ | 5157/12000 [19:45<25:50, 4.41it/s]
train loss:0.008627964581889365
43%|█████████████████████████████████ | 5158/12000 [19:45<25:46, 4.43it/s]
train loss:0.003941167583013158
43%|█████████████████████████████████ | 5159/12000 [19:45<26:01, 4.38it/s]
train loss:0.0154513132201718
43%|█████████████████████████████████ | 5160/12000 [19:46<25:45, 4.43it/s]
train loss:0.007150968888841731
43%|█████████████████████████████████ | 5161/12000 [19:46<25:54, 4.40it/s]
train loss:0.005865686515680249
43%|█████████████████████████████████ | 5162/12000 [19:46<25:54, 4.40it/s]
train loss:0.0030799732058086476
43%|█████████████████████████████████▏ | 5163/12000 [19:46<26:00, 4.38it/s]
train loss:0.0005026835518687028
43%|█████████████████████████████████▏ | 5164/12000 [19:47<26:00, 4.38it/s]
train loss:0.002825073419425071
43%|█████████████████████████████████▏ | 5165/12000 [19:47<25:48, 4.41it/s]
train loss:0.005996001054681662
43%|█████████████████████████████████▏ | 5166/12000 [19:47<25:45, 4.42it/s]
train loss:0.030575053533491325
43%|█████████████████████████████████▏ | 5167/12000 [19:47<25:45, 4.42it/s]
train loss:0.00605826438134507
43%|█████████████████████████████████▏ | 5168/12000 [19:47<25:51, 4.40it/s]
train loss:0.0075056566855405404
43%|█████████████████████████████████▏ | 5169/12000 [19:48<25:33, 4.46it/s]
train loss:0.010032318105800084
43%|█████████████████████████████████▏ | 5170/12000 [19:48<25:27, 4.47it/s]
train loss:0.001436691310551484
43%|█████████████████████████████████▏ | 5171/12000 [19:48<25:41, 4.43it/s]
train loss:0.012428020300125693
43%|█████████████████████████████████▏ | 5172/12000 [19:48<25:42, 4.43it/s]
train loss:0.0016033610539388412
43%|█████████████████████████████████▏ | 5173/12000 [19:49<25:36, 4.44it/s]
train loss:0.015689533171620834
43%|█████████████████████████████████▏ | 5174/12000 [19:49<25:33, 4.45it/s]
train loss:0.007190423766462513
43%|█████████████████████████████████▏ | 5175/12000 [19:49<25:34, 4.45it/s]
train loss:0.00171707517402773
43%|█████████████████████████████████▏ | 5176/12000 [19:49<25:38, 4.43it/s]
train loss:0.005309320209238129
43%|█████████████████████████████████▏ | 5177/12000 [19:50<25:57, 4.38it/s]
train loss:0.007959303220068513
43%|█████████████████████████████████▏ | 5178/12000 [19:50<25:36, 4.44it/s]
train loss:0.00431355417999596
43%|█████████████████████████████████▏ | 5179/12000 [19:50<25:41, 4.42it/s]
train loss:0.00976094455559396
43%|█████████████████████████████████▏ | 5180/12000 [19:50<25:40, 4.43it/s]
train loss:0.001740040338602625
43%|█████████████████████████████████▏ | 5181/12000 [19:50<25:53, 4.39it/s]
train loss:0.0033216454113440606
43%|█████████████████████████████████▎ | 5182/12000 [19:51<25:34, 4.44it/s]
train loss:0.0023735061815120077
43%|█████████████████████████████████▎ | 5183/12000 [19:51<25:37, 4.43it/s]
train loss:0.007560223184758963
43%|█████████████████████████████████▎ | 5184/12000 [19:51<25:40, 4.42it/s]
train loss:0.020759296903067742
43%|█████████████████████████████████▎ | 5185/12000 [19:51<25:49, 4.40it/s]
train loss:0.008643835504939084
43%|█████████████████████████████████▎ | 5186/12000 [19:52<25:47, 4.40it/s]
train loss:0.011766802539403941
43%|█████████████████████████████████▎ | 5187/12000 [19:52<25:31, 4.45it/s]
train loss:0.013493567367167093
43%|█████████████████████████████████▎ | 5188/12000 [19:52<25:35, 4.44it/s]
train loss:0.03460353601152706
43%|█████████████████████████████████▎ | 5189/12000 [19:52<25:36, 4.43it/s]
train loss:0.0007140176811355616
43%|█████████████████████████████████▎ | 5190/12000 [19:52<25:42, 4.42it/s]
train loss:0.0014389966081794865
43%|█████████████████████████████████▎ | 5191/12000 [19:53<25:28, 4.46it/s]
train loss:0.010366744708263207
43%|█████████████████████████████████▎ | 5192/12000 [19:53<25:23, 4.47it/s]
train loss:0.04726919202905927
43%|█████████████████████████████████▎ | 5193/12000 [19:53<25:26, 4.46it/s]
train loss:0.09624837870947724
43%|█████████████████████████████████▎ | 5194/12000 [19:53<25:32, 4.44it/s]
train loss:0.012731671576810284
43%|█████████████████████████████████▎ | 5195/12000 [19:54<25:29, 4.45it/s]
train loss:0.008050344255617858
43%|█████████████████████████████████▎ | 5196/12000 [19:54<25:14, 4.49it/s]
train loss:0.007325340731368068
43%|█████████████████████████████████▎ | 5197/12000 [19:54<25:24, 4.46it/s]
train loss:0.014264913907683995
43%|█████████████████████████████████▎ | 5198/12000 [19:54<25:29, 4.45it/s]
train loss:0.006755326840168785
43%|█████████████████████████████████▎ | 5199/12000 [19:54<25:32, 4.44it/s]
train loss:0.03243526238246329
43%|█████████████████████████████████▎ | 5200/12000 [19:55<25:18, 4.48it/s]
train loss:0.004745795678919226
43%|█████████████████████████████████▎ | 5201/12000 [19:55<25:24, 4.46it/s]
train loss:0.002084214977199706
43%|█████████████████████████████████▍ | 5202/12000 [19:55<25:30, 4.44it/s]
train loss:0.006662741835354424
43%|█████████████████████████████████▍ | 5203/12000 [19:55<25:35, 4.43it/s]
train loss:0.018294605557417846
43%|█████████████████████████████████▍ | 5204/12000 [19:56<25:34, 4.43it/s]
train loss:0.009257207899730056
43%|█████████████████████████████████▍ | 5205/12000 [19:56<25:31, 4.44it/s]
train loss:0.014023515155013296
43%|█████████████████████████████████▍ | 5206/12000 [19:56<25:33, 4.43it/s]
train loss:0.012238557853507892
43%|█████████████████████████████████▍ | 5207/12000 [19:56<25:56, 4.36it/s]
train loss:0.015041563452550722
43%|█████████████████████████████████▍ | 5208/12000 [19:57<25:53, 4.37it/s]
train loss:0.08980258089986753
43%|█████████████████████████████████▍ | 5209/12000 [19:57<25:31, 4.43it/s]
train loss:0.0062668548490954065
43%|█████████████████████████████████▍ | 5210/12000 [19:57<25:31, 4.43it/s]
train loss:0.012487011513009063
43%|█████████████████████████████████▍ | 5211/12000 [19:57<25:31, 4.43it/s]
train loss:0.005104525525435012
43%|█████████████████████████████████▍ | 5212/12000 [19:57<25:36, 4.42it/s]
train loss:0.0014924719314661464
43%|█████████████████████████████████▍ | 5213/12000 [19:58<25:37, 4.42it/s]
train loss:0.002267735749968976
43%|█████████████████████████████████▍ | 5214/12000 [19:58<25:30, 4.43it/s]
train loss:0.026405143207409863
43%|█████████████████████████████████▍ | 5215/12000 [19:58<25:29, 4.44it/s]
train loss:0.011394229974750824
43%|█████████████████████████████████▍ | 5216/12000 [19:58<25:30, 4.43it/s]
train loss:0.008712572584979568
43%|█████████████████████████████████▍ | 5217/12000 [19:59<25:46, 4.39it/s]
train loss:0.004512856909677419
43%|█████████████████████████████████▍ | 5218/12000 [19:59<25:40, 4.40it/s]
train loss:0.023251909330961277
43%|█████████████████████████████████▍ | 5219/12000 [19:59<25:45, 4.39it/s]
train loss:0.004256363167692162
44%|█████████████████████████████████▍ | 5220/12000 [19:59<25:51, 4.37it/s]
train loss:0.0025452609798397403
44%|█████████████████████████████████▌ | 5221/12000 [19:59<25:44, 4.39it/s]
train loss:0.010555433522462087
44%|█████████████████████████████████▌ | 5222/12000 [20:00<25:23, 4.45it/s]
train loss:0.008200403150990358
44%|█████████████████████████████████▌ | 5223/12000 [20:00<25:35, 4.41it/s]
train loss:0.027972179186651375
44%|█████████████████████████████████▌ | 5224/12000 [20:00<25:44, 4.39it/s]
train loss:0.006586516554577906
44%|█████████████████████████████████▌ | 5225/12000 [20:00<25:45, 4.39it/s]
train loss:0.009680090353396268
44%|█████████████████████████████████▌ | 5226/12000 [20:01<25:37, 4.41it/s]
train loss:0.009613660356095784
44%|█████████████████████████████████▌ | 5227/12000 [20:01<25:28, 4.43it/s]
train loss:0.004737258907693566
44%|█████████████████████████████████▌ | 5228/12000 [20:01<25:29, 4.43it/s]
train loss:0.007031735077112189
44%|█████████████████████████████████▌ | 5229/12000 [20:01<25:30, 4.42it/s]
train loss:0.0008928649621830026
44%|█████████████████████████████████▌ | 5230/12000 [20:01<25:33, 4.42it/s]
train loss:0.0032222524314422444
44%|█████████████████████████████████▌ | 5231/12000 [20:02<25:12, 4.47it/s]
train loss:0.0005825866553156555
44%|█████████████████████████████████▌ | 5232/12000 [20:02<25:34, 4.41it/s]
train loss:0.011496817641760781
44%|█████████████████████████████████▌ | 5233/12000 [20:02<26:36, 4.24it/s]
train loss:0.02358714325503705
44%|█████████████████████████████████▌ | 5234/12000 [20:02<27:31, 4.10it/s]
train loss:0.010404075314288991
44%|█████████████████████████████████▌ | 5235/12000 [20:03<27:15, 4.14it/s]
train loss:0.0031783803375208764
44%|█████████████████████████████████▌ | 5236/12000 [20:03<27:19, 4.13it/s]
train loss:0.0010671268238070517
44%|█████████████████████████████████▌ | 5237/12000 [20:03<26:45, 4.21it/s]
train loss:0.01025348137168221
44%|█████████████████████████████████▌ | 5238/12000 [20:03<26:23, 4.27it/s]
train loss:0.00830761068565452
44%|█████████████████████████████████▌ | 5239/12000 [20:04<26:09, 4.31it/s]
train loss:0.01075628652786103
44%|█████████████████████████████████▌ | 5240/12000 [20:04<26:07, 4.31it/s]
train loss:0.0034881573524383107
44%|█████████████████████████████████▋ | 5241/12000 [20:04<26:04, 4.32it/s]
train loss:0.031028472471139747
44%|█████████████████████████████████▋ | 5242/12000 [20:04<26:03, 4.32it/s]
train loss:0.0030919972527569243
44%|█████████████████████████████████▋ | 5243/12000 [20:05<26:07, 4.31it/s]
train loss:0.013972141251255678
44%|█████████████████████████████████▋ | 5244/12000 [20:05<25:46, 4.37it/s]
train loss:0.006775314120625375
44%|█████████████████████████████████▋ | 5245/12000 [20:05<25:40, 4.38it/s]
train loss:0.012214671339214962
44%|█████████████████████████████████▋ | 5246/12000 [20:05<25:35, 4.40it/s]
train loss:0.002493668786321491
44%|█████████████████████████████████▋ | 5247/12000 [20:05<25:31, 4.41it/s]
train loss:0.0028437043641019117
44%|█████████████████████████████████▋ | 5248/12000 [20:06<25:18, 4.45it/s]
train loss:0.007876764692702164
44%|█████████████████████████████████▋ | 5249/12000 [20:06<25:23, 4.43it/s]
train loss:0.01042463196699387
44%|█████████████████████████████████▋ | 5250/12000 [20:06<25:25, 4.43it/s]
train loss:0.0024793875557027937
44%|█████████████████████████████████▋ | 5251/12000 [20:06<25:25, 4.42it/s]
train loss:0.03850834354384233
44%|█████████████████████████████████▋ | 5252/12000 [20:07<25:55, 4.34it/s]
train loss:0.0017363154070085427
44%|█████████████████████████████████▋ | 5253/12000 [20:07<25:37, 4.39it/s]
train loss:0.002650381967957787
44%|█████████████████████████████████▋ | 5254/12000 [20:07<25:34, 4.40it/s]
train loss:0.0028809455768035565
44%|█████████████████████████████████▋ | 5255/12000 [20:07<25:30, 4.41it/s]
train loss:0.003169785004760765
44%|█████████████████████████████████▋ | 5256/12000 [20:07<25:30, 4.41it/s]
train loss:0.011242849626751795
44%|█████████████████████████████████▋ | 5257/12000 [20:08<25:09, 4.47it/s]
train loss:0.0017418447430869255
44%|█████████████████████████████████▋ | 5258/12000 [20:08<25:13, 4.45it/s]
train loss:0.01720834278693001
44%|█████████████████████████████████▋ | 5259/12000 [20:08<25:18, 4.44it/s]
train loss:0.004581446266148061
44%|█████████████████████████████████▊ | 5260/12000 [20:08<25:19, 4.44it/s]
train loss:0.0008925816194002622
44%|█████████████████████████████████▊ | 5261/12000 [20:09<25:12, 4.46it/s]
train loss:0.07485974209854598
44%|█████████████████████████████████▊ | 5262/12000 [20:09<25:12, 4.46it/s]
train loss:0.030637850640355523
44%|█████████████████████████████████▊ | 5263/12000 [20:09<25:12, 4.45it/s]
train loss:0.0057541224228481935
44%|█████████████████████████████████▊ | 5264/12000 [20:09<25:16, 4.44it/s]
train loss:0.006580349494547197
44%|█████████████████████████████████▊ | 5265/12000 [20:10<25:20, 4.43it/s]
train loss:0.009207607671172744
44%|█████████████████████████████████▊ | 5266/12000 [20:10<25:02, 4.48it/s]
train loss:0.0037709654673986066
44%|█████████████████████████████████▊ | 5267/12000 [20:10<25:07, 4.47it/s]
train loss:0.011086532487658117
44%|█████████████████████████████████▊ | 5268/12000 [20:10<25:09, 4.46it/s]
train loss:0.004578413052339393
44%|█████████████████████████████████▊ | 5269/12000 [20:10<25:15, 4.44it/s]
train loss:0.04356954250445304
44%|█████████████████████████████████▊ | 5270/12000 [20:11<25:20, 4.43it/s]
train loss:0.04669203778017426
44%|█████████████████████████████████▊ | 5271/12000 [20:11<25:14, 4.44it/s]
train loss:0.010699299574337124
44%|█████████████████████████████████▊ | 5272/12000 [20:11<25:17, 4.43it/s]
train loss:0.014575883019365146
44%|█████████████████████████████████▊ | 5273/12000 [20:11<25:17, 4.43it/s]
train loss:0.022838951149338184
44%|█████████████████████████████████▊ | 5274/12000 [20:12<25:23, 4.42it/s]
train loss:0.012108456046203878
44%|█████████████████████████████████▊ | 5275/12000 [20:12<25:04, 4.47it/s]
train loss:0.01517689722983408
44%|█████████████████████████████████▊ | 5276/12000 [20:12<25:12, 4.44it/s]
train loss:0.010597837237726074
44%|█████████████████████████████████▊ | 5277/12000 [20:12<25:12, 4.44it/s]
train loss:0.0039530213466412185
44%|█████████████████████████████████▊ | 5278/12000 [20:12<25:15, 4.43it/s]
train loss:0.012032988676830282
44%|█████████████████████████████████▊ | 5279/12000 [20:13<24:58, 4.49it/s]
train loss:0.03337019721310054
44%|█████████████████████████████████▉ | 5280/12000 [20:13<25:06, 4.46it/s]
train loss:0.005417623403061746
44%|█████████████████████████████████▉ | 5281/12000 [20:13<25:20, 4.42it/s]
train loss:0.03297216854734514
44%|█████████████████████████████████▉ | 5282/12000 [20:13<25:28, 4.40it/s]
train loss:0.0016623178755789897
44%|█████████████████████████████████▉ | 5283/12000 [20:14<26:04, 4.29it/s]
train loss:0.00028765388962617006
44%|█████████████████████████████████▉ | 5284/12000 [20:14<26:51, 4.17it/s]
train loss:0.0050452570291026465
44%|█████████████████████████████████▉ | 5285/12000 [20:14<26:21, 4.25it/s]
train loss:0.006404931498956457
44%|█████████████████████████████████▉ | 5286/12000 [20:14<26:14, 4.27it/s]
train loss:0.007605959332195222
44%|█████████████████████████████████▉ | 5287/12000 [20:15<25:59, 4.30it/s]
train loss:0.04464141532768276
44%|█████████████████████████████████▉ | 5288/12000 [20:15<25:31, 4.38it/s]
train loss:0.03260120963708729
44%|█████████████████████████████████▉ | 5289/12000 [20:15<25:25, 4.40it/s]
train loss:0.015208397006651745
44%|█████████████████████████████████▉ | 5290/12000 [20:15<25:20, 4.41it/s]
train loss:0.008658843522501972
44%|█████████████████████████████████▉ | 5291/12000 [20:15<25:23, 4.40it/s]
train loss:0.016702585932083732
44%|█████████████████████████████████▉ | 5292/12000 [20:16<25:04, 4.46it/s]
train loss:0.023585318093775797
44%|█████████████████████████████████▉ | 5293/12000 [20:16<25:02, 4.46it/s]
train loss:0.016667862183686297
44%|█████████████████████████████████▉ | 5294/12000 [20:16<25:03, 4.46it/s]
train loss:0.004848539989157154
44%|█████████████████████████████████▉ | 5295/12000 [20:16<25:07, 4.45it/s]
train loss:0.01815742015133707
44%|█████████████████████████████████▉ | 5296/12000 [20:17<25:10, 4.44it/s]
train loss:0.011924691965693419
44%|█████████████████████████████████▉ | 5297/12000 [20:17<25:00, 4.47it/s]
train loss:0.0013923177525300362
44%|█████████████████████████████████▉ | 5298/12000 [20:17<25:00, 4.47it/s]
train loss:0.011822287763807457
44%|██████████████████████████████████ | 5299/12000 [20:17<25:05, 4.45it/s]
train loss:0.006751892170450422
44%|██████████████████████████████████ | 5300/12000 [20:17<25:07, 4.44it/s]
train loss:0.007181792730436231
44%|██████████████████████████████████ | 5301/12000 [20:18<25:48, 4.33it/s]
train loss:0.007126682143425153
44%|██████████████████████████████████ | 5302/12000 [20:18<25:38, 4.35it/s]
train loss:0.014081181091323789
44%|██████████████████████████████████ | 5303/12000 [20:18<25:39, 4.35it/s]
train loss:0.007608237004124404
44%|██████████████████████████████████ | 5304/12000 [20:18<25:33, 4.37it/s]
train loss:0.002669594500474336
44%|██████████████████████████████████ | 5305/12000 [20:19<25:27, 4.38it/s]
train loss:0.03982849512417375
44%|██████████████████████████████████ | 5306/12000 [20:19<25:16, 4.42it/s]
train loss:0.017456023818483185
44%|██████████████████████████████████ | 5307/12000 [20:19<25:19, 4.40it/s]
train loss:0.0031528701996569996
44%|██████████████████████████████████ | 5308/12000 [20:19<25:21, 4.40it/s]
train loss:0.01084352568955637
44%|██████████████████████████████████ | 5309/12000 [20:20<25:39, 4.35it/s]
train loss:0.01173683786631954
44%|██████████████████████████████████ | 5310/12000 [20:20<25:14, 4.42it/s]
train loss:0.012205067815513943
44%|██████████████████████████████████ | 5311/12000 [20:20<25:17, 4.41it/s]
train loss:0.0037237393974499417
44%|██████████████████████████████████ | 5312/12000 [20:20<25:19, 4.40it/s]
train loss:0.00474753904456445
44%|██████████████████████████████████ | 5313/12000 [20:20<25:33, 4.36it/s]
train loss:0.002325736686008924
44%|██████████████████████████████████ | 5314/12000 [20:21<25:29, 4.37it/s]
train loss:0.0033632512837071245
44%|██████████████████████████████████ | 5315/12000 [20:21<25:04, 4.44it/s]
train loss:0.00762911925768198
44%|██████████████████████████████████ | 5316/12000 [20:21<25:08, 4.43it/s]
train loss:0.007982314081548548
44%|██████████████████████████████████ | 5317/12000 [20:21<25:12, 4.42it/s]
train loss:0.003623653826619251
44%|██████████████████████████████████ | 5318/12000 [20:22<25:16, 4.41it/s]
train loss:0.008737650565843249
44%|██████████████████████████████████▏ | 5319/12000 [20:22<25:05, 4.44it/s]
train loss:0.0015634812955719203
44%|██████████████████████████████████▏ | 5320/12000 [20:22<25:05, 4.44it/s]
train loss:0.018366661667442066
44%|██████████████████████████████████▏ | 5321/12000 [20:22<25:01, 4.45it/s]
train loss:0.005614183964018357
44%|██████████████████████████████████▏ | 5322/12000 [20:22<25:04, 4.44it/s]
train loss:0.0038957365619104395
44%|██████████████████████████████████▏ | 5323/12000 [20:23<24:48, 4.48it/s]
train loss:0.009953919518105531
44%|██████████████████████████████████▏ | 5324/12000 [20:23<24:53, 4.47it/s]
train loss:0.015215758416734565
44%|██████████████████████████████████▏ | 5325/12000 [20:23<24:59, 4.45it/s]
train loss:0.008538313233006927
44%|██████████████████████████████████▏ | 5326/12000 [20:23<25:06, 4.43it/s]
train loss:0.03142378032131121
44%|██████████████████████████████████▏ | 5327/12000 [20:24<25:06, 4.43it/s]
train loss:0.014922697552571489
44%|██████████████████████████████████▏ | 5328/12000 [20:24<24:46, 4.49it/s]
train loss:0.12079572892296875
44%|██████████████████████████████████▏ | 5329/12000 [20:24<24:52, 4.47it/s]
train loss:0.0014215264849120903
44%|██████████████████████████████████▏ | 5330/12000 [20:24<25:00, 4.45it/s]
train loss:0.004442699284205905
44%|██████████████████████████████████▏ | 5331/12000 [20:24<25:04, 4.43it/s]
train loss:0.00654100881936528
44%|██████████████████████████████████▏ | 5332/12000 [20:25<24:50, 4.47it/s]
train loss:0.008590338522783651
44%|██████████████████████████████████▏ | 5333/12000 [20:25<24:57, 4.45it/s]
train loss:0.017345045309231262
44%|██████████████████████████████████▏ | 5334/12000 [20:25<25:00, 4.44it/s]
train loss:0.021557507973796065
44%|██████████████████████████████████▏ | 5335/12000 [20:25<25:01, 4.44it/s]
train loss:0.010169487770415582
44%|██████████████████████████████████▏ | 5336/12000 [20:26<25:02, 4.44it/s]
train loss:0.025291455516648288
44%|██████████████████████████████████▏ | 5337/12000 [20:26<24:57, 4.45it/s]
train loss:0.0031344333429120137
44%|██████████████████████████████████▎ | 5338/12000 [20:26<25:00, 4.44it/s]
train loss:0.005054300253636769
44%|██████████████████████████████████▎ | 5339/12000 [20:26<25:03, 4.43it/s]
train loss:0.00027067634456941637
44%|██████████████████████████████████▎ | 5340/12000 [20:26<25:06, 4.42it/s]
train loss:0.005184889027533838
45%|██████████████████████████████████▎ | 5341/12000 [20:27<25:27, 4.36it/s]
train loss:0.01082210317861906
45%|██████████████████████████████████▎ | 5342/12000 [20:27<25:25, 4.36it/s]
train loss:0.0064438118859191686
45%|██████████████████████████████████▎ | 5343/12000 [20:27<25:30, 4.35it/s]
train loss:0.020372389798000733
45%|██████████████████████████████████▎ | 5344/12000 [20:27<25:32, 4.34it/s]
train loss:0.006506653476562643
45%|██████████████████████████████████▎ | 5345/12000 [20:28<26:07, 4.24it/s]
train loss:0.0017724289683406648
45%|██████████████████████████████████▎ | 5346/12000 [20:28<25:55, 4.28it/s]
train loss:0.008305721709102485
45%|██████████████████████████████████▎ | 5347/12000 [20:28<27:09, 4.08it/s]
train loss:0.0034103708767329044
45%|██████████████████████████████████▎ | 5348/12000 [20:28<27:02, 4.10it/s]
train loss:0.0007160596625948288
45%|██████████████████████████████████▎ | 5349/12000 [20:29<26:17, 4.22it/s]
train loss:0.008839189359427891
45%|██████████████████████████████████▎ | 5350/12000 [20:29<25:46, 4.30it/s]
train loss:0.006035990876631425
45%|██████████████████████████████████▎ | 5351/12000 [20:29<25:40, 4.32it/s]
train loss:0.015094735211970545
45%|██████████████████████████████████▎ | 5352/12000 [20:29<25:29, 4.35it/s]
train loss:0.004952134517858662
45%|██████████████████████████████████▎ | 5353/12000 [20:30<25:24, 4.36it/s]
train loss:0.010678448010703754
45%|██████████████████████████████████▎ | 5354/12000 [20:30<24:58, 4.43it/s]
train loss:0.002397860785201181
45%|██████████████████████████████████▎ | 5355/12000 [20:30<24:58, 4.44it/s]
train loss:0.0017910411051994487
45%|██████████████████████████████████▎ | 5356/12000 [20:30<25:00, 4.43it/s]
train loss:0.0043922389835474715
45%|██████████████████████████████████▎ | 5357/12000 [20:30<25:01, 4.43it/s]
train loss:0.007234536072345681
45%|██████████████████████████████████▍ | 5358/12000 [20:31<24:45, 4.47it/s]
train loss:0.004679516666995783
45%|██████████████████████████████████▍ | 5359/12000 [20:31<24:51, 4.45it/s]
train loss:0.007971720306127375
45%|██████████████████████████████████▍ | 5360/12000 [20:31<24:52, 4.45it/s]
train loss:0.0023989363066659157
45%|██████████████████████████████████▍ | 5361/12000 [20:31<24:56, 4.44it/s]
train loss:0.01178506649501434
45%|██████████████████████████████████▍ | 5362/12000 [20:32<24:58, 4.43it/s]
train loss:0.006288031246594785
45%|██████████████████████████████████▍ | 5363/12000 [20:32<24:40, 4.48it/s]
train loss:0.009784844468356715
45%|██████████████████████████████████▍ | 5364/12000 [20:32<24:50, 4.45it/s]
train loss:0.006771083402861953
45%|██████████████████████████████████▍ | 5365/12000 [20:32<24:51, 4.45it/s]
train loss:0.033627924432684086
45%|██████████████████████████████████▍ | 5366/12000 [20:32<24:51, 4.45it/s]
train loss:0.0026620186173798082
45%|██████████████████████████████████▍ | 5367/12000 [20:33<24:51, 4.45it/s]
train loss:0.008145520342082494
45%|██████████████████████████████████▍ | 5368/12000 [20:33<25:04, 4.41it/s]
train loss:0.00353212012692237
45%|██████████████████████████████████▍ | 5369/12000 [20:33<25:01, 4.42it/s]
train loss:0.005993840792207276
45%|██████████████████████████████████▍ | 5370/12000 [20:33<24:59, 4.42it/s]
train loss:0.023991924620428345
45%|██████████████████████████████████▍ | 5371/12000 [20:34<24:53, 4.44it/s]
train loss:0.008591018689919185
45%|██████████████████████████████████▍ | 5372/12000 [20:34<24:40, 4.48it/s]
train loss:0.011883766174369622
45%|██████████████████████████████████▍ | 5373/12000 [20:34<24:46, 4.46it/s]
train loss:0.0031567561877746536
45%|██████████████████████████████████▍ | 5374/12000 [20:34<24:48, 4.45it/s]
train loss:0.002966232320317518
45%|██████████████████████████████████▍ | 5375/12000 [20:34<24:51, 4.44it/s]
train loss:0.006107046832876948
45%|██████████████████████████████████▍ | 5376/12000 [20:35<24:48, 4.45it/s]
train loss:0.004293245946066122
45%|██████████████████████████████████▌ | 5377/12000 [20:35<24:57, 4.42it/s]
train loss:0.0028129609029335944
45%|██████████████████████████████████▌ | 5378/12000 [20:35<24:59, 4.42it/s]
train loss:0.0008863007240392304
45%|██████████████████████████████████▌ | 5379/12000 [20:35<24:57, 4.42it/s]
train loss:0.004784971685146269
45%|██████████████████████████████████▌ | 5380/12000 [20:36<24:55, 4.43it/s]
train loss:0.04867508567479652
45%|██████████████████████████████████▌ | 5381/12000 [20:36<24:37, 4.48it/s]
train loss:0.002813567334932134
45%|██████████████████████████████████▌ | 5382/12000 [20:36<24:41, 4.47it/s]
train loss:0.002585428739726315
45%|██████████████████████████████████▌ | 5383/12000 [20:36<24:48, 4.44it/s]
train loss:0.0027034724385091575
45%|██████████████████████████████████▌ | 5384/12000 [20:37<25:07, 4.39it/s]
train loss:0.005961411613132821
45%|██████████████████████████████████▌ | 5385/12000 [20:37<24:40, 4.47it/s]
train loss:0.0013790161641456314
45%|██████████████████████████████████▌ | 5386/12000 [20:37<24:32, 4.49it/s]
train loss:0.020338283178699994
45%|██████████████████████████████████▌ | 5387/12000 [20:37<24:38, 4.47it/s]
train loss:0.0020137856423001004
45%|██████████████████████████████████▌ | 5388/12000 [20:37<24:42, 4.46it/s]
train loss:0.0013556537820077989
45%|██████████████████████████████████▌ | 5389/12000 [20:38<24:35, 4.48it/s]
train loss:0.008062990666230997
45%|██████████████████████████████████▌ | 5390/12000 [20:38<24:33, 4.49it/s]
train loss:0.0018240221642683663
45%|██████████████████████████████████▌ | 5391/12000 [20:38<24:39, 4.47it/s]
train loss:0.05031096179686173
45%|██████████████████████████████████▌ | 5392/12000 [20:38<24:43, 4.46it/s]
train loss:0.009212260403041699
45%|██████████████████████████████████▌ | 5393/12000 [20:39<24:46, 4.44it/s]
train loss:0.0036615067817152448
45%|██████████████████████████████████▌ | 5394/12000 [20:39<24:28, 4.50it/s]
train loss:0.005927199746948001
45%|██████████████████████████████████▌ | 5395/12000 [20:39<24:38, 4.47it/s]
train loss:0.002455818229226561
45%|██████████████████████████████████▌ | 5396/12000 [20:39<24:45, 4.45it/s]
train loss:0.0038666650734037987
45%|██████████████████████████████████▋ | 5397/12000 [20:39<24:45, 4.44it/s]
train loss:0.0021695370843239897
45%|██████████████████████████████████▋ | 5398/12000 [20:40<24:41, 4.46it/s]
train loss:0.0017781688460683865
45%|██████████████████████████████████▋ | 5399/12000 [20:40<24:40, 4.46it/s]
train loss:0.003419710957954311
45%|██████████████████████████████████▋ | 5400/12000 [20:40<24:43, 4.45it/s]
train loss:0.003048323176425919 train loss:0.008661478979358908
45%|█████████████████████████████████▊ | 5401/12000 [20:42<1:16:02, 1.45it/s]
=== epoch:10, train acc:0.995, test acc:0.991 ===
45%|█████████████████████████████████▊ | 5402/12000 [20:42<1:00:53, 1.81it/s]
train loss:0.007621350524243321
45%|██████████████████████████████████▋ | 5403/12000 [20:42<50:05, 2.20it/s]
train loss:0.0024327433197855845
45%|██████████████████████████████████▋ | 5404/12000 [20:43<42:32, 2.58it/s]
train loss:0.009649426398128193
45%|██████████████████████████████████▋ | 5405/12000 [20:43<36:59, 2.97it/s]
train loss:0.0013345558270964181
45%|██████████████████████████████████▋ | 5406/12000 [20:43<33:23, 3.29it/s]
train loss:0.003952460981034186
45%|██████████████████████████████████▋ | 5407/12000 [20:43<30:48, 3.57it/s]
train loss:0.015522357331771888
45%|██████████████████████████████████▋ | 5408/12000 [20:43<28:59, 3.79it/s]
train loss:0.0038799848919883555
45%|██████████████████████████████████▋ | 5409/12000 [20:44<28:08, 3.90it/s]
train loss:0.02348073033120627
45%|██████████████████████████████████▋ | 5410/12000 [20:44<27:11, 4.04it/s]
train loss:0.06902864196097636
45%|██████████████████████████████████▋ | 5411/12000 [20:44<26:27, 4.15it/s]
train loss:0.002913740051451223
45%|██████████████████████████████████▋ | 5412/12000 [20:44<25:58, 4.23it/s]
train loss:0.011846825032066542
45%|██████████████████████████████████▋ | 5413/12000 [20:45<25:39, 4.28it/s]
train loss:0.0017350969967154348
45%|██████████████████████████████████▋ | 5414/12000 [20:45<25:19, 4.33it/s]
train loss:0.0022657975628208107
45%|██████████████████████████████████▋ | 5415/12000 [20:45<25:09, 4.36it/s]
train loss:0.004921903605411545
45%|██████████████████████████████████▊ | 5416/12000 [20:45<25:01, 4.38it/s]
train loss:0.00260508172278319
45%|██████████████████████████████████▊ | 5417/12000 [20:45<25:06, 4.37it/s]
train loss:0.0034997910720469144
45%|██████████████████████████████████▊ | 5418/12000 [20:46<24:40, 4.45it/s]
train loss:0.015738143218849775
45%|██████████████████████████████████▊ | 5419/12000 [20:46<24:42, 4.44it/s]
train loss:0.004930884726013967
45%|██████████████████████████████████▊ | 5420/12000 [20:46<24:41, 4.44it/s]
train loss:0.013212705777136197
45%|██████████████████████████████████▊ | 5421/12000 [20:46<24:45, 4.43it/s]
train loss:0.014195064885604949
45%|██████████████████████████████████▊ | 5422/12000 [20:47<24:39, 4.45it/s]
train loss:0.00714387923641109
45%|██████████████████████████████████▊ | 5423/12000 [20:47<24:35, 4.46it/s]
train loss:0.0032191814863139477
45%|██████████████████████████████████▊ | 5424/12000 [20:47<24:37, 4.45it/s]
train loss:0.0026807006441221127
45%|██████████████████████████████████▊ | 5425/12000 [20:47<24:38, 4.45it/s]
train loss:0.028561813927655746
45%|██████████████████████████████████▊ | 5426/12000 [20:48<24:43, 4.43it/s]
train loss:0.004557367488620617
45%|██████████████████████████████████▊ | 5427/12000 [20:48<24:27, 4.48it/s]
train loss:0.0010970648335961186
45%|██████████████████████████████████▊ | 5428/12000 [20:48<24:31, 4.46it/s]
train loss:0.002727481602296339
45%|██████████████████████████████████▊ | 5429/12000 [20:48<24:36, 4.45it/s]
train loss:0.004246575031749223
45%|██████████████████████████████████▊ | 5430/12000 [20:48<24:41, 4.43it/s]
train loss:0.0010046009336279616
45%|██████████████████████████████████▊ | 5431/12000 [20:49<24:33, 4.46it/s]
train loss:0.009805360694267353
45%|██████████████████████████████████▊ | 5432/12000 [20:49<24:31, 4.46it/s]
train loss:0.0013622623017692306
45%|██████████████████████████████████▊ | 5433/12000 [20:49<24:35, 4.45it/s]
train loss:0.003486423947194797
45%|██████████████████████████████████▊ | 5434/12000 [20:49<24:37, 4.44it/s]
train loss:0.006365871626012466
45%|██████████████████████████████████▊ | 5435/12000 [20:50<24:41, 4.43it/s]
train loss:0.08077806539262859
45%|██████████████████████████████████▉ | 5436/12000 [20:50<24:31, 4.46it/s]
train loss:0.0065296010327286205
45%|██████████████████████████████████▉ | 5437/12000 [20:50<24:33, 4.45it/s]
train loss:0.0011036770617117548
45%|██████████████████████████████████▉ | 5438/12000 [20:50<24:35, 4.45it/s]
train loss:0.0027408691733626484
45%|██████████████████████████████████▉ | 5439/12000 [20:50<24:40, 4.43it/s]
train loss:0.002985367916767399
45%|██████████████████████████████████▉ | 5440/12000 [20:51<24:29, 4.46it/s]
train loss:0.013258530230388376
45%|██████████████████████████████████▉ | 5441/12000 [20:51<24:32, 4.45it/s]
train loss:0.004288118262625097
45%|██████████████████████████████████▉ | 5442/12000 [20:51<24:34, 4.45it/s]
train loss:0.005768981537124761
45%|██████████████████████████████████▉ | 5443/12000 [20:51<24:37, 4.44it/s]
train loss:0.0005901041191273501
45%|██████████████████████████████████▉ | 5444/12000 [20:52<24:38, 4.43it/s]
train loss:0.004547443642447418
45%|██████████████████████████████████▉ | 5445/12000 [20:52<24:29, 4.46it/s]
train loss:0.001781005253456872
45%|██████████████████████████████████▉ | 5446/12000 [20:52<24:37, 4.43it/s]
train loss:0.009054296354313653
45%|██████████████████████████████████▉ | 5447/12000 [20:52<24:43, 4.42it/s]
train loss:0.002022113124263363
45%|██████████████████████████████████▉ | 5448/12000 [20:52<24:49, 4.40it/s]
train loss:0.0061151668454857925
45%|██████████████████████████████████▉ | 5449/12000 [20:53<24:35, 4.44it/s]
train loss:0.01075092398428944
45%|██████████████████████████████████▉ | 5450/12000 [20:53<24:35, 4.44it/s]
train loss:0.0061328599363043275
45%|██████████████████████████████████▉ | 5451/12000 [20:53<24:39, 4.43it/s]
train loss:0.003457613085557165
45%|██████████████████████████████████▉ | 5452/12000 [20:53<24:38, 4.43it/s]
train loss:0.0008084359856460975
45%|██████████████████████████████████▉ | 5453/12000 [20:54<24:40, 4.42it/s]
train loss:0.0072059477563320515
45%|██████████████████████████████████▉ | 5454/12000 [20:54<24:34, 4.44it/s]
train loss:0.001828386951780276
45%|███████████████████████████████████ | 5455/12000 [20:54<24:34, 4.44it/s]
train loss:0.002157063005187191
45%|███████████████████████████████████ | 5456/12000 [20:54<24:51, 4.39it/s]
train loss:0.0027720401618259944
45%|███████████████████████████████████ | 5457/12000 [20:55<24:58, 4.37it/s]
train loss:0.00420535256226076
45%|███████████████████████████████████ | 5458/12000 [20:55<24:36, 4.43it/s]
train loss:0.02581139610350943
45%|███████████████████████████████████ | 5459/12000 [20:55<24:37, 4.43it/s]
train loss:0.0007923620156331849
46%|███████████████████████████████████ | 5460/12000 [20:55<24:40, 4.42it/s]
train loss:0.0016923160279769206
46%|███████████████████████████████████ | 5461/12000 [20:55<24:38, 4.42it/s]
train loss:0.00651419803842156
46%|███████████████████████████████████ | 5462/12000 [20:56<25:19, 4.30it/s]
train loss:0.002188720423744013
46%|███████████████████████████████████ | 5463/12000 [20:56<25:00, 4.36it/s]
train loss:0.019568020949397393
46%|███████████████████████████████████ | 5464/12000 [20:56<24:53, 4.38it/s]
train loss:0.004394382396376307
46%|███████████████████████████████████ | 5465/12000 [20:56<24:45, 4.40it/s]
train loss:0.001348355657306881
46%|███████████████████████████████████ | 5466/12000 [20:57<25:19, 4.30it/s]
train loss:0.001219812597010822
46%|███████████████████████████████████ | 5467/12000 [20:57<24:50, 4.38it/s]
train loss:0.007038679066604167
46%|███████████████████████████████████ | 5468/12000 [20:57<24:46, 4.40it/s]
train loss:0.0052566536574913435
46%|███████████████████████████████████ | 5469/12000 [20:57<24:42, 4.41it/s]
train loss:0.0034376162148659663
46%|███████████████████████████████████ | 5470/12000 [20:57<24:48, 4.39it/s]
train loss:0.0013308149235825213
46%|███████████████████████████████████ | 5471/12000 [20:58<24:33, 4.43it/s]
train loss:0.013359006501632837
46%|███████████████████████████████████ | 5472/12000 [20:58<24:37, 4.42it/s]
train loss:0.0032711230703926174
46%|███████████████████████████████████ | 5473/12000 [20:58<24:37, 4.42it/s]
train loss:0.007667512323702283
46%|███████████████████████████████████ | 5474/12000 [20:58<24:35, 4.42it/s]
train loss:0.000825925703053881
46%|███████████████████████████████████▏ | 5475/12000 [20:59<24:30, 4.44it/s]
train loss:0.004645700146472096
46%|███████████████████████████████████▏ | 5476/12000 [20:59<24:28, 4.44it/s]
train loss:0.002400636945453086
46%|███████████████████████████████████▏ | 5477/12000 [20:59<24:32, 4.43it/s]
train loss:0.003840258450893808
46%|███████████████████████████████████▏ | 5478/12000 [20:59<24:31, 4.43it/s]
train loss:0.010872328523181853
46%|███████████████████████████████████▏ | 5479/12000 [20:59<24:36, 4.42it/s]
train loss:0.007573437880670833
46%|███████████████████████████████████▏ | 5480/12000 [21:00<24:17, 4.47it/s]
train loss:0.005239264182921096
46%|███████████████████████████████████▏ | 5481/12000 [21:00<24:24, 4.45it/s]
train loss:0.004108924425387873
46%|███████████████████████████████████▏ | 5482/12000 [21:00<24:26, 4.45it/s]
train loss:0.03503056375107899
46%|███████████████████████████████████▏ | 5483/12000 [21:00<24:26, 4.44it/s]
train loss:0.0025254281479097727
46%|███████████████████████████████████▏ | 5484/12000 [21:01<24:18, 4.47it/s]
train loss:0.010065352532341807
46%|███████████████████████████████████▏ | 5485/12000 [21:01<24:15, 4.48it/s]
train loss:0.0017997463869105154
46%|███████████████████████████████████▏ | 5486/12000 [21:01<24:18, 4.47it/s]
train loss:0.0039929196710710565
46%|███████████████████████████████████▏ | 5487/12000 [21:01<24:20, 4.46it/s]
train loss:0.004191100115318524
46%|███████████████████████████████████▏ | 5488/12000 [21:02<24:22, 4.45it/s]
train loss:0.0007880855013657158
46%|███████████████████████████████████▏ | 5489/12000 [21:02<24:06, 4.50it/s]
train loss:0.005152717093432364
46%|███████████████████████████████████▏ | 5490/12000 [21:02<24:12, 4.48it/s]
train loss:0.015277836786896436
46%|███████████████████████████████████▏ | 5491/12000 [21:02<24:20, 4.46it/s]
train loss:0.0016348267149764817
46%|███████████████████████████████████▏ | 5492/12000 [21:02<24:21, 4.45it/s]
train loss:0.0013906184504287411
46%|███████████████████████████████████▏ | 5493/12000 [21:03<24:19, 4.46it/s]
train loss:0.0012943031990376849
46%|███████████████████████████████████▎ | 5494/12000 [21:03<24:20, 4.45it/s]
train loss:0.0005567658145777436
46%|███████████████████████████████████▎ | 5495/12000 [21:03<24:22, 4.45it/s]
train loss:0.018233742591999606
46%|███████████████████████████████████▎ | 5496/12000 [21:03<24:27, 4.43it/s]
train loss:0.005590829070954138
46%|███████████████████████████████████▎ | 5497/12000 [21:04<24:26, 4.43it/s]
train loss:0.0012544480719364048
46%|███████████████████████████████████▎ | 5498/12000 [21:04<24:22, 4.44it/s]
train loss:0.014286651530866406
46%|███████████████████████████████████▎ | 5499/12000 [21:04<24:23, 4.44it/s]
train loss:0.012260101448300156
46%|███████████████████████████████████▎ | 5500/12000 [21:04<24:30, 4.42it/s]
train loss:0.002307799233896184
46%|███████████████████████████████████▎ | 5501/12000 [21:04<24:28, 4.43it/s]
train loss:0.0047237375166554576
46%|███████████████████████████████████▎ | 5502/12000 [21:05<24:16, 4.46it/s]
train loss:0.0018576216397909072
46%|███████████████████████████████████▎ | 5503/12000 [21:05<24:23, 4.44it/s]
train loss:0.003362917766544472
46%|███████████████████████████████████▎ | 5504/12000 [21:05<24:30, 4.42it/s]
train loss:0.06453651563752735
46%|███████████████████████████████████▎ | 5505/12000 [21:05<24:33, 4.41it/s]
train loss:0.0009035683388001727
46%|███████████████████████████████████▎ | 5506/12000 [21:06<24:28, 4.42it/s]
train loss:0.010965242139977772
46%|███████████████████████████████████▎ | 5507/12000 [21:06<24:19, 4.45it/s]
train loss:0.00782103792707504
46%|███████████████████████████████████▎ | 5508/12000 [21:06<24:22, 4.44it/s]
train loss:0.004684470317337479
46%|███████████████████████████████████▎ | 5509/12000 [21:06<24:24, 4.43it/s]
train loss:0.003094653122420858
46%|███████████████████████████████████▎ | 5510/12000 [21:06<24:25, 4.43it/s]
train loss:0.05787405292650161
46%|███████████████████████████████████▎ | 5511/12000 [21:07<24:11, 4.47it/s]
train loss:0.0012171193675690945
46%|███████████████████████████████████▎ | 5512/12000 [21:07<24:20, 4.44it/s]
train loss:0.001672281925015104
46%|███████████████████████████████████▍ | 5513/12000 [21:07<24:24, 4.43it/s]
train loss:0.0075397823487784385
46%|███████████████████████████████████▍ | 5514/12000 [21:07<24:25, 4.43it/s]
train loss:0.005428610233600372
46%|███████████████████████████████████▍ | 5515/12000 [21:08<24:27, 4.42it/s]
train loss:0.0007785295350585971
46%|███████████████████████████████████▍ | 5516/12000 [21:08<24:28, 4.42it/s]
train loss:0.0016307904896813864
46%|███████████████████████████████████▍ | 5517/12000 [21:08<24:31, 4.40it/s]
train loss:0.010753349129296591
46%|███████████████████████████████████▍ | 5518/12000 [21:08<24:34, 4.39it/s]
train loss:0.00897223126480009
46%|███████████████████████████████████▍ | 5519/12000 [21:09<24:40, 4.38it/s]
train loss:0.009211429215605868
46%|███████████████████████████████████▍ | 5520/12000 [21:09<24:15, 4.45it/s]
train loss:0.002821380002544231
46%|███████████████████████████████████▍ | 5521/12000 [21:09<24:10, 4.47it/s]
train loss:0.001384944236828516
46%|███████████████████████████████████▍ | 5522/12000 [21:09<24:15, 4.45it/s]
train loss:0.010436641157830544
46%|███████████████████████████████████▍ | 5523/12000 [21:09<24:20, 4.44it/s]
train loss:0.003849266684053455
46%|███████████████████████████████████▍ | 5524/12000 [21:10<24:10, 4.46it/s]
train loss:0.0025536739787118735
46%|███████████████████████████████████▍ | 5525/12000 [21:10<24:13, 4.46it/s]
train loss:0.012841533999270693
46%|███████████████████████████████████▍ | 5526/12000 [21:10<24:19, 4.44it/s]
train loss:0.005326696602189257
46%|███████████████████████████████████▍ | 5527/12000 [21:10<24:24, 4.42it/s]
train loss:0.004374613647471916
46%|███████████████████████████████████▍ | 5528/12000 [21:11<24:30, 4.40it/s]
train loss:0.00790109431655912
46%|███████████████████████████████████▍ | 5529/12000 [21:11<24:23, 4.42it/s]
train loss:0.0018147444924304637
46%|███████████████████████████████████▍ | 5530/12000 [21:11<24:23, 4.42it/s]
train loss:0.005831409521150493
46%|███████████████████████████████████▍ | 5531/12000 [21:11<24:22, 4.42it/s]
train loss:0.020343689547624756
46%|███████████████████████████████████▍ | 5532/12000 [21:11<24:20, 4.43it/s]
train loss:0.0022591093323022743
46%|███████████████████████████████████▌ | 5533/12000 [21:12<24:02, 4.48it/s]
train loss:0.0005434564909208373
46%|███████████████████████████████████▌ | 5534/12000 [21:12<24:03, 4.48it/s]
train loss:0.0004205846445411942
46%|███████████████████████████████████▌ | 5535/12000 [21:12<24:14, 4.44it/s]
train loss:0.006912240470318032
46%|███████████████████████████████████▌ | 5536/12000 [21:12<24:16, 4.44it/s]
train loss:0.002869494240721162
46%|███████████████████████████████████▌ | 5537/12000 [21:13<24:15, 4.44it/s]
train loss:0.01484764362761151
46%|███████████████████████████████████▌ | 5538/12000 [21:13<24:02, 4.48it/s]
train loss:0.0012041916632467172
46%|███████████████████████████████████▌ | 5539/12000 [21:13<24:06, 4.47it/s]
train loss:0.006059041447632262
46%|███████████████████████████████████▌ | 5540/12000 [21:13<24:10, 4.45it/s]
train loss:0.004957666762465018
46%|███████████████████████████████████▌ | 5541/12000 [21:13<24:13, 4.45it/s]
train loss:0.010583936621435587
46%|███████████████████████████████████▌ | 5542/12000 [21:14<23:56, 4.50it/s]
train loss:0.009079260818968813
46%|███████████████████████████████████▌ | 5543/12000 [21:14<24:08, 4.46it/s]
train loss:0.003462077955279243
46%|███████████████████████████████████▌ | 5544/12000 [21:14<24:12, 4.45it/s]
train loss:0.0022905104275344024
46%|███████████████████████████████████▌ | 5545/12000 [21:14<24:12, 4.44it/s]
train loss:0.0026275474935619604
46%|███████████████████████████████████▌ | 5546/12000 [21:15<24:46, 4.34it/s]
train loss:0.0016237855249226277
46%|███████████████████████████████████▌ | 5547/12000 [21:15<24:41, 4.35it/s]
train loss:0.03899647838172757
46%|███████████████████████████████████▌ | 5548/12000 [21:15<24:35, 4.37it/s]
train loss:0.0033315381147719743
46%|███████████████████████████████████▌ | 5549/12000 [21:15<24:34, 4.37it/s]
train loss:0.011121426054292545
46%|███████████████████████████████████▌ | 5550/12000 [21:15<24:32, 4.38it/s]
train loss:0.001670339054718098
46%|███████████████████████████████████▌ | 5551/12000 [21:16<24:12, 4.44it/s]
train loss:0.006957925109092294
46%|███████████████████████████████████▋ | 5552/12000 [21:16<24:14, 4.43it/s]
train loss:0.011136633030121473
46%|███████████████████████████████████▋ | 5553/12000 [21:16<24:17, 4.42it/s]
train loss:0.004276359930834613
46%|███████████████████████████████████▋ | 5554/12000 [21:16<24:21, 4.41it/s]
train loss:0.00829422192806668
46%|███████████████████████████████████▋ | 5555/12000 [21:17<24:11, 4.44it/s]
train loss:0.0024772342292005856
46%|███████████████████████████████████▋ | 5556/12000 [21:17<24:08, 4.45it/s]
train loss:0.0020951426814320136
46%|███████████████████████████████████▋ | 5557/12000 [21:17<24:54, 4.31it/s]
train loss:0.003265138445210774
46%|███████████████████████████████████▋ | 5558/12000 [21:17<24:45, 4.34it/s]
train loss:0.0011293341927623704
46%|███████████████████████████████████▋ | 5559/12000 [21:18<24:28, 4.39it/s]
train loss:0.021747047951326932
46%|███████████████████████████████████▋ | 5560/12000 [21:18<25:53, 4.15it/s]
train loss:0.0029004639988961696
46%|███████████████████████████████████▋ | 5561/12000 [21:18<27:05, 3.96it/s]
train loss:0.002022235318987736
46%|███████████████████████████████████▋ | 5562/12000 [21:18<27:44, 3.87it/s]
train loss:0.014278824143719993
46%|███████████████████████████████████▋ | 5563/12000 [21:19<27:59, 3.83it/s]
train loss:0.001453423831250674
46%|███████████████████████████████████▋ | 5564/12000 [21:19<28:31, 3.76it/s]
train loss:0.003911476549421939
46%|███████████████████████████████████▋ | 5565/12000 [21:19<28:40, 3.74it/s]
train loss:0.003486474887529333
46%|███████████████████████████████████▋ | 5566/12000 [21:19<28:57, 3.70it/s]
train loss:0.0027169180537539362
46%|███████████████████████████████████▋ | 5567/12000 [21:20<28:53, 3.71it/s]
train loss:0.0023852386132542625
46%|███████████████████████████████████▋ | 5568/12000 [21:20<29:10, 3.67it/s]
train loss:0.0005450167827634356
46%|███████████████████████████████████▋ | 5569/12000 [21:20<29:13, 3.67it/s]
train loss:0.002743484501417475
46%|███████████████████████████████████▋ | 5570/12000 [21:21<29:13, 3.67it/s]
train loss:0.012822924245352316
46%|███████████████████████████████████▋ | 5571/12000 [21:21<27:38, 3.88it/s]
train loss:0.008950141742809047
46%|███████████████████████████████████▊ | 5572/12000 [21:21<26:39, 4.02it/s]
train loss:0.010919576872975418
46%|███████████████████████████████████▊ | 5573/12000 [21:21<26:06, 4.10it/s]
train loss:0.0061484116988350344
46%|███████████████████████████████████▊ | 5574/12000 [21:21<25:55, 4.13it/s]
train loss:0.0060120811436873015
46%|███████████████████████████████████▊ | 5575/12000 [21:22<25:12, 4.25it/s]
train loss:0.002389812488849962
46%|███████████████████████████████████▊ | 5576/12000 [21:22<24:50, 4.31it/s]
train loss:0.015630681048160303
46%|███████████████████████████████████▊ | 5577/12000 [21:22<24:41, 4.34it/s]
train loss:0.00413292098179952
46%|███████████████████████████████████▊ | 5578/12000 [21:22<24:31, 4.36it/s]
train loss:0.0007619457307709686
46%|███████████████████████████████████▊ | 5579/12000 [21:23<24:20, 4.40it/s]
train loss:0.005578726035696818
46%|███████████████████████████████████▊ | 5580/12000 [21:23<24:14, 4.41it/s]
train loss:0.032626731500153494
47%|███████████████████████████████████▊ | 5581/12000 [21:23<24:14, 4.41it/s]
train loss:0.018440870467982918
47%|███████████████████████████████████▊ | 5582/12000 [21:23<24:15, 4.41it/s]
train loss:0.04102047205192691
47%|███████████████████████████████████▊ | 5583/12000 [21:24<24:22, 4.39it/s]
train loss:0.004972052458937911
47%|███████████████████████████████████▊ | 5584/12000 [21:24<24:04, 4.44it/s]
train loss:0.013034413800504362
47%|███████████████████████████████████▊ | 5585/12000 [21:24<24:10, 4.42it/s]
train loss:0.004630899816196282
47%|███████████████████████████████████▊ | 5586/12000 [21:24<24:20, 4.39it/s]
train loss:0.01874381333864066
47%|███████████████████████████████████▊ | 5587/12000 [21:24<24:23, 4.38it/s]
train loss:0.005440724866931718
47%|███████████████████████████████████▊ | 5588/12000 [21:25<24:15, 4.40it/s]
train loss:0.0036326222346566434
47%|███████████████████████████████████▊ | 5589/12000 [21:25<24:18, 4.39it/s]
train loss:0.05064383315668078
47%|███████████████████████████████████▊ | 5590/12000 [21:25<24:16, 4.40it/s]
train loss:0.012340429378244946
47%|███████████████████████████████████▉ | 5591/12000 [21:25<24:14, 4.41it/s]
train loss:0.004888690334360999
47%|███████████████████████████████████▉ | 5592/12000 [21:26<24:15, 4.40it/s]
train loss:0.0025208885763039076
47%|███████████████████████████████████▉ | 5593/12000 [21:26<24:04, 4.44it/s]
train loss:0.0007766667456195787
47%|███████████████████████████████████▉ | 5594/12000 [21:26<24:09, 4.42it/s]
train loss:0.009675587700863776
47%|███████████████████████████████████▉ | 5595/12000 [21:26<24:07, 4.42it/s]
train loss:0.03973017986338643
47%|███████████████████████████████████▉ | 5596/12000 [21:26<24:08, 4.42it/s]
train loss:0.0058507527982079996
47%|███████████████████████████████████▉ | 5597/12000 [21:27<24:00, 4.45it/s]
train loss:0.004405486484497307
47%|███████████████████████████████████▉ | 5598/12000 [21:27<24:07, 4.42it/s]
train loss:0.0017815072846043831
47%|███████████████████████████████████▉ | 5599/12000 [21:27<24:08, 4.42it/s]
train loss:0.006309727228073563
47%|███████████████████████████████████▉ | 5600/12000 [21:27<24:06, 4.43it/s]
train loss:0.005128911031139476
47%|███████████████████████████████████▉ | 5601/12000 [21:28<24:01, 4.44it/s]
train loss:0.012650018649574024
47%|███████████████████████████████████▉ | 5602/12000 [21:28<23:48, 4.48it/s]
train loss:0.004570695317241752
47%|███████████████████████████████████▉ | 5603/12000 [21:28<23:54, 4.46it/s]
train loss:0.0005357232568357666
47%|███████████████████████████████████▉ | 5604/12000 [21:28<23:58, 4.45it/s]
train loss:0.00753479258669173
47%|███████████████████████████████████▉ | 5605/12000 [21:28<24:01, 4.44it/s]
train loss:0.0020456334530371905
47%|███████████████████████████████████▉ | 5606/12000 [21:29<23:44, 4.49it/s]
train loss:0.034508865650339664
47%|███████████████████████████████████▉ | 5607/12000 [21:29<23:51, 4.47it/s]
train loss:0.012937975354889313
47%|███████████████████████████████████▉ | 5608/12000 [21:29<23:53, 4.46it/s]
train loss:0.0012890414488454039
47%|███████████████████████████████████▉ | 5609/12000 [21:29<23:57, 4.45it/s]
train loss:0.006322236223975839
47%|███████████████████████████████████▉ | 5610/12000 [21:30<23:58, 4.44it/s]
train loss:0.009403461383457185
47%|████████████████████████████████████ | 5611/12000 [21:30<23:54, 4.45it/s]
train loss:0.006249795034423956
47%|████████████████████████████████████ | 5612/12000 [21:30<23:59, 4.44it/s]
train loss:0.0030111000992898286
47%|████████████████████████████████████ | 5613/12000 [21:30<24:04, 4.42it/s]
train loss:0.0014101380911547327
47%|████████████████████████████████████ | 5614/12000 [21:31<24:18, 4.38it/s]
train loss:0.0021811026107389476
47%|████████████████████████████████████ | 5615/12000 [21:31<23:54, 4.45it/s]
train loss:0.008992455020231183
47%|████████████████████████████████████ | 5616/12000 [21:31<24:01, 4.43it/s]
train loss:0.0026579169991638686
47%|████████████████████████████████████ | 5617/12000 [21:31<24:01, 4.43it/s]
train loss:0.0015226891567417687
47%|████████████████████████████████████ | 5618/12000 [21:31<24:04, 4.42it/s]
train loss:0.0034956880671262684
47%|████████████████████████████████████ | 5619/12000 [21:32<24:01, 4.43it/s]
train loss:0.052876899323978904
47%|████████████████████████████████████ | 5620/12000 [21:32<23:57, 4.44it/s]
train loss:0.003515925068231166
47%|████████████████████████████████████ | 5621/12000 [21:32<24:03, 4.42it/s]
train loss:0.0030909782890025965
47%|████████████████████████████████████ | 5622/12000 [21:32<24:03, 4.42it/s]
train loss:0.01111868218227305
47%|████████████████████████████████████ | 5623/12000 [21:33<24:08, 4.40it/s]
train loss:0.0038946697546035636
47%|████████████████████████████████████ | 5624/12000 [21:33<23:57, 4.43it/s]
train loss:0.001204871468800222
47%|████████████████████████████████████ | 5625/12000 [21:33<23:59, 4.43it/s]
train loss:0.005778189602297194
47%|████████████████████████████████████ | 5626/12000 [21:33<24:02, 4.42it/s]
train loss:0.0022172424835934378
47%|████████████████████████████████████ | 5627/12000 [21:33<24:06, 4.41it/s]
train loss:0.0147551462730054
47%|████████████████████████████████████ | 5628/12000 [21:34<23:52, 4.45it/s]
train loss:0.013921760078951368
47%|████████████████████████████████████ | 5629/12000 [21:34<23:53, 4.45it/s]
train loss:0.0488316054451866
47%|████████████████████████████████████▏ | 5630/12000 [21:34<23:56, 4.43it/s]
train loss:0.0013962561264471924
47%|████████████████████████████████████▏ | 5631/12000 [21:34<23:55, 4.44it/s]
train loss:0.004686049699607416
47%|████████████████████████████████████▏ | 5632/12000 [21:35<24:03, 4.41it/s]
train loss:0.00830009313264274
47%|████████████████████████████████████▏ | 5633/12000 [21:35<24:02, 4.41it/s]
train loss:0.004591730265444622
47%|████████████████████████████████████▏ | 5634/12000 [21:35<24:05, 4.40it/s]
train loss:0.00690927207620156
47%|████████████████████████████████████▏ | 5635/12000 [21:35<24:04, 4.41it/s]
train loss:0.004651512261879055
47%|████████████████████████████████████▏ | 5636/12000 [21:35<24:12, 4.38it/s]
train loss:0.005113278202170347
47%|████████████████████████████████████▏ | 5637/12000 [21:36<23:53, 4.44it/s]
train loss:0.01800114559722876
47%|████████████████████████████████████▏ | 5638/12000 [21:36<24:01, 4.41it/s]
train loss:0.004578868672016404
47%|████████████████████████████████████▏ | 5639/12000 [21:36<24:02, 4.41it/s]
train loss:0.014838163411685897
47%|████████████████████████████████████▏ | 5640/12000 [21:36<24:05, 4.40it/s]
train loss:0.001069941101936093
47%|████████████████████████████████████▏ | 5641/12000 [21:37<24:04, 4.40it/s]
train loss:0.024251881004366038
47%|████████████████████████████████████▏ | 5642/12000 [21:37<24:00, 4.41it/s]
train loss:0.005386450652370553
47%|████████████████████████████████████▏ | 5643/12000 [21:37<23:59, 4.42it/s]
train loss:0.004166244002191164
47%|████████████████████████████████████▏ | 5644/12000 [21:37<24:09, 4.38it/s]
train loss:0.015028279996082632
47%|████████████████████████████████████▏ | 5645/12000 [21:38<24:06, 4.39it/s]
train loss:0.005097197275640285
47%|████████████████████████████████████▏ | 5646/12000 [21:38<23:44, 4.46it/s]
train loss:0.004697234848239154
47%|████████████████████████████████████▏ | 5647/12000 [21:38<23:58, 4.42it/s]
train loss:0.002392881451417239
47%|████████████████████████████████████▏ | 5648/12000 [21:38<24:00, 4.41it/s]
train loss:0.02972945800240052
47%|████████████████████████████████████▏ | 5649/12000 [21:38<24:02, 4.40it/s]
train loss:0.006765102792745078
47%|████████████████████████████████████▎ | 5650/12000 [21:39<23:46, 4.45it/s]
train loss:0.018091770348197075
47%|████████████████████████████████████▎ | 5651/12000 [21:39<23:45, 4.45it/s]
train loss:0.0061793514855909
47%|████████████████████████████████████▎ | 5652/12000 [21:39<23:55, 4.42it/s]
train loss:0.06232204937962568
47%|████████████████████████████████████▎ | 5653/12000 [21:39<23:59, 4.41it/s]
train loss:0.0016405291372714478
47%|████████████████████████████████████▎ | 5654/12000 [21:40<24:00, 4.41it/s]
train loss:0.008969765181749611
47%|████████████████████████████████████▎ | 5655/12000 [21:40<23:59, 4.41it/s]
train loss:0.004780761092250382
47%|████████████████████████████████████▎ | 5656/12000 [21:40<23:48, 4.44it/s]
train loss:0.00542691818244859
47%|████████████████████████████████████▎ | 5657/12000 [21:40<24:07, 4.38it/s]
train loss:0.0033272678383179668
47%|████████████████████████████████████▎ | 5658/12000 [21:40<24:15, 4.36it/s]
train loss:0.009146456001906425
47%|████████████████████████████████████▎ | 5659/12000 [21:41<23:58, 4.41it/s]
train loss:0.022137141375971434
47%|████████████████████████████████████▎ | 5660/12000 [21:41<24:16, 4.35it/s]
train loss:0.0012309683103156014
47%|████████████████████████████████████▎ | 5661/12000 [21:41<24:14, 4.36it/s]
train loss:0.0034927420344043137
47%|████████████████████████████████████▎ | 5662/12000 [21:41<24:09, 4.37it/s]
train loss:0.008340336504947449
47%|████████████████████████████████████▎ | 5663/12000 [21:42<23:57, 4.41it/s]
train loss:0.004285765083600396
47%|████████████████████████████████████▎ | 5664/12000 [21:42<23:49, 4.43it/s]
train loss:0.0034139340485783254
47%|████████████████████████████████████▎ | 5665/12000 [21:42<23:55, 4.41it/s]
train loss:0.006542819594124461
47%|████████████████████████████████████▎ | 5666/12000 [21:42<23:57, 4.41it/s]
train loss:0.019377523432130405
47%|████████████████████████████████████▎ | 5667/12000 [21:43<24:03, 4.39it/s]
train loss:0.005554096449864265
47%|████████████████████████████████████▎ | 5668/12000 [21:43<23:35, 4.47it/s]
train loss:0.008697850430768879
47%|████████████████████████████████████▍ | 5669/12000 [21:43<23:43, 4.45it/s]
train loss:0.011940987548766884
47%|████████████████████████████████████▍ | 5670/12000 [21:43<23:42, 4.45it/s]
train loss:0.02475295511361949
47%|████████████████████████████████████▍ | 5671/12000 [21:43<23:45, 4.44it/s]
train loss:0.006286313058209722
47%|████████████████████████████████████▍ | 5672/12000 [21:44<23:38, 4.46it/s]
train loss:0.002276686808307326
47%|████████████████████████████████████▍ | 5673/12000 [21:44<23:33, 4.48it/s]
train loss:0.0009353182213230144
47%|████████████████████████████████████▍ | 5674/12000 [21:44<23:42, 4.45it/s]
train loss:0.0022984237869853623
47%|████████████████████████████████████▍ | 5675/12000 [21:44<23:43, 4.44it/s]
train loss:0.02197287447477088
47%|████████████████████████████████████▍ | 5676/12000 [21:45<23:51, 4.42it/s]
train loss:0.016865942614011645
47%|████████████████████████████████████▍ | 5677/12000 [21:45<23:32, 4.48it/s]
train loss:0.0031691233817411762
47%|████████████████████████████████████▍ | 5678/12000 [21:45<23:42, 4.44it/s]
train loss:0.0028984128119563103
47%|████████████████████████████████████▍ | 5679/12000 [21:45<23:52, 4.41it/s]
train loss:0.002380072178842643
47%|████████████████████████████████████▍ | 5680/12000 [21:45<23:48, 4.43it/s]
train loss:0.015034611348345661
47%|████████████████████████████████████▍ | 5681/12000 [21:46<23:29, 4.48it/s]
train loss:0.0015860650209261543
47%|████████████████████████████████████▍ | 5682/12000 [21:46<23:41, 4.44it/s]
train loss:0.00729203205722599
47%|████████████████████████████████████▍ | 5683/12000 [21:46<23:42, 4.44it/s]
train loss:0.008591314822775633
47%|████████████████████████████████████▍ | 5684/12000 [21:46<23:41, 4.44it/s]
train loss:0.007603982541975267
47%|████████████████████████████████████▍ | 5686/12000 [21:47<23:03, 4.56it/s]
train loss:0.005453788684088084 train loss:0.012762882291436689
47%|████████████████████████████████████▍ | 5687/12000 [21:47<23:38, 4.45it/s]
train loss:0.0008883037860219826
47%|████████████████████████████████████▍ | 5688/12000 [21:47<23:43, 4.43it/s]
train loss:0.004275425389354422
47%|████████████████████████████████████▌ | 5689/12000 [21:47<23:48, 4.42it/s]
train loss:0.0009970713720729137
47%|████████████████████████████████████▌ | 5690/12000 [21:48<23:31, 4.47it/s]
train loss:0.002665852606734605
47%|████████████████████████████████████▌ | 5691/12000 [21:48<23:40, 4.44it/s]
train loss:0.003953393084949048
47%|████████████████████████████████████▌ | 5692/12000 [21:48<23:42, 4.43it/s]
train loss:0.01796421308441271
47%|████████████████████████████████████▌ | 5693/12000 [21:48<23:42, 4.43it/s]
train loss:0.0149032681088709
47%|████████████████████████████████████▌ | 5694/12000 [21:49<23:44, 4.43it/s]
train loss:0.012619961483919947
47%|████████████████████████████████████▌ | 5695/12000 [21:49<23:27, 4.48it/s]
train loss:0.0037759759653824038
47%|████████████████████████████████████▌ | 5696/12000 [21:49<23:37, 4.45it/s]
train loss:0.0008773397598808867
47%|████████████████████████████████████▌ | 5697/12000 [21:49<23:42, 4.43it/s]
train loss:0.005247627017669181
47%|████████████████████████████████████▌ | 5698/12000 [21:49<23:44, 4.43it/s]
train loss:0.010451015526063012
47%|████████████████████████████████████▌ | 5699/12000 [21:50<23:27, 4.48it/s]
train loss:0.0021920211222314855
48%|████████████████████████████████████▌ | 5700/12000 [21:50<23:35, 4.45it/s]
train loss:0.004566247200424213
48%|████████████████████████████████████▌ | 5701/12000 [21:50<23:41, 4.43it/s]
train loss:0.004719225561065725
48%|████████████████████████████████████▌ | 5702/12000 [21:50<23:43, 4.42it/s]
train loss:0.004004577682749511
48%|████████████████████████████████████▌ | 5703/12000 [21:51<23:53, 4.39it/s]
train loss:0.005525482219811528
48%|████████████████████████████████████▌ | 5704/12000 [21:51<23:44, 4.42it/s]
train loss:0.011585557917280234
48%|████████████████████████████████████▌ | 5705/12000 [21:51<23:45, 4.42it/s]
train loss:0.010018356735131356
48%|████████████████████████████████████▌ | 5706/12000 [21:51<23:44, 4.42it/s]
train loss:0.0028557826526984854
48%|████████████████████████████████████▌ | 5707/12000 [21:52<24:38, 4.26it/s]
train loss:0.002723790867191104
48%|████████████████████████████████████▋ | 5708/12000 [21:52<25:04, 4.18it/s]
train loss:0.004527029897995729
48%|████████████████████████████████████▋ | 5709/12000 [21:52<24:51, 4.22it/s]
train loss:0.0009015888103696715
48%|████████████████████████████████████▋ | 5710/12000 [21:52<24:32, 4.27it/s]
train loss:0.014078808313079047
48%|████████████████████████████████████▋ | 5711/12000 [21:52<24:20, 4.31it/s]
train loss:0.004481277482684297
48%|████████████████████████████████████▋ | 5712/12000 [21:53<23:55, 4.38it/s]
train loss:0.006729911273664441
48%|████████████████████████████████████▋ | 5713/12000 [21:53<23:50, 4.39it/s]
train loss:0.006681653887926802
48%|████████████████████████████████████▋ | 5714/12000 [21:53<23:50, 4.39it/s]
train loss:0.009104948598390698
48%|████████████████████████████████████▋ | 5715/12000 [21:53<23:46, 4.41it/s]
train loss:0.008276027044624138
48%|████████████████████████████████████▋ | 5716/12000 [21:54<23:39, 4.43it/s]
train loss:0.0010145333570953435
48%|████████████████████████████████████▋ | 5717/12000 [21:54<23:36, 4.44it/s]
train loss:0.008657245807210388
48%|████████████████████████████████████▋ | 5718/12000 [21:54<23:44, 4.41it/s]
train loss:0.024460719311983826
48%|████████████████████████████████████▋ | 5719/12000 [21:54<23:43, 4.41it/s]
train loss:0.0034968505836262915
48%|████████████████████████████████████▋ | 5720/12000 [21:54<23:44, 4.41it/s]
train loss:0.011326559789372937
48%|████████████████████████████████████▋ | 5721/12000 [21:55<23:26, 4.47it/s]
train loss:0.007893406285035964
48%|████████████████████████████████████▋ | 5722/12000 [21:55<23:36, 4.43it/s]
train loss:0.004558051068024881
48%|████████████████████████████████████▋ | 5723/12000 [21:55<25:17, 4.14it/s]
train loss:0.008151638200898446
48%|████████████████████████████████████▋ | 5724/12000 [21:55<25:27, 4.11it/s]
train loss:0.003783003627663946
48%|████████████████████████████████████▋ | 5725/12000 [21:56<24:48, 4.22it/s]
train loss:0.0077115267234265416
48%|████████████████████████████████████▋ | 5726/12000 [21:56<24:35, 4.25it/s]
train loss:0.021317082480557494
48%|████████████████████████████████████▋ | 5727/12000 [21:56<24:26, 4.28it/s]
train loss:0.00180205364901485
48%|████████████████████████████████████▊ | 5728/12000 [21:56<24:25, 4.28it/s]
train loss:0.0001535870390947513
48%|████████████████████████████████████▊ | 5729/12000 [21:57<24:14, 4.31it/s]
train loss:0.0018828413162107266
48%|████████████████████████████████████▊ | 5730/12000 [21:57<23:58, 4.36it/s]
train loss:0.00026051000889618
48%|████████████████████████████████████▊ | 5731/12000 [21:57<25:28, 4.10it/s]
train loss:0.0017792089722456614
48%|████████████████████████████████████▊ | 5732/12000 [21:57<25:15, 4.13it/s]
train loss:0.026017340502229237
48%|████████████████████████████████████▊ | 5733/12000 [21:58<24:44, 4.22it/s]
train loss:0.0017636859473231423
48%|████████████████████████████████████▊ | 5734/12000 [21:58<24:18, 4.30it/s]
train loss:0.019864620048957775
48%|████████████████████████████████████▊ | 5735/12000 [21:58<24:09, 4.32it/s]
train loss:0.015829919410855497
48%|████████████████████████████████████▊ | 5736/12000 [21:58<24:23, 4.28it/s]
train loss:0.0024141522080354024
48%|████████████████████████████████████▊ | 5737/12000 [21:59<25:10, 4.15it/s]
train loss:0.002918007650772875
48%|████████████████████████████████████▊ | 5738/12000 [21:59<24:55, 4.19it/s]
train loss:0.006631541631573083
48%|████████████████████████████████████▊ | 5739/12000 [21:59<24:30, 4.26it/s]
train loss:0.005508653460654893
48%|████████████████████████████████████▊ | 5740/12000 [21:59<24:14, 4.30it/s]
train loss:0.0044755194771186994
48%|████████████████████████████████████▊ | 5741/12000 [21:59<24:00, 4.34it/s]
train loss:0.00017250510369928515 train loss:0.002236293933669377
48%|████████████████████████████████████▊ | 5743/12000 [22:00<23:39, 4.41it/s]
train loss:0.0022300435131088845
48%|████████████████████████████████████▊ | 5744/12000 [22:00<23:39, 4.41it/s]
train loss:0.007936063722164783
48%|████████████████████████████████████▊ | 5745/12000 [22:00<23:44, 4.39it/s]
train loss:0.05863846722937574
48%|████████████████████████████████████▊ | 5746/12000 [22:01<23:43, 4.39it/s]
train loss:0.007016636185454755
48%|████████████████████████████████████▉ | 5747/12000 [22:01<23:24, 4.45it/s]
train loss:0.0055416087524086145
48%|████████████████████████████████████▉ | 5748/12000 [22:01<23:29, 4.44it/s]
train loss:0.0033192681317547974
48%|████████████████████████████████████▉ | 5749/12000 [22:01<23:32, 4.42it/s]
train loss:0.0019233467942476323
48%|████████████████████████████████████▉ | 5750/12000 [22:01<23:35, 4.42it/s]
train loss:0.012263479834078286
48%|████████████████████████████████████▉ | 5751/12000 [22:02<23:25, 4.45it/s]
train loss:0.0005294367603926066
48%|████████████████████████████████████▉ | 5752/12000 [22:02<23:28, 4.44it/s]
train loss:0.002247406577445043
48%|████████████████████████████████████▉ | 5753/12000 [22:02<23:35, 4.41it/s]
train loss:0.008546293131531175
48%|████████████████████████████████████▉ | 5754/12000 [22:02<25:07, 4.14it/s]
train loss:0.0029656804148638217
48%|████████████████████████████████████▉ | 5755/12000 [22:03<25:23, 4.10it/s]
train loss:0.004415700942750627
48%|████████████████████████████████████▉ | 5756/12000 [22:03<25:39, 4.05it/s]
train loss:0.008385361003969532
48%|████████████████████████████████████▉ | 5757/12000 [22:03<25:01, 4.16it/s]
train loss:0.0012486944648898357
48%|████████████████████████████████████▉ | 5758/12000 [22:03<24:35, 4.23it/s]
train loss:0.015472109765543328
48%|████████████████████████████████████▉ | 5759/12000 [22:04<24:08, 4.31it/s]
train loss:0.0011413978052344617
48%|████████████████████████████████████▉ | 5760/12000 [22:04<23:52, 4.36it/s]
train loss:0.0018996849302617142
48%|████████████████████████████████████▉ | 5761/12000 [22:04<23:46, 4.37it/s]
train loss:0.010941396802094787
48%|████████████████████████████████████▉ | 5762/12000 [22:04<23:42, 4.39it/s]
train loss:0.009754812498958989
48%|████████████████████████████████████▉ | 5763/12000 [22:05<23:44, 4.38it/s]
train loss:0.0013211776201702578
48%|████████████████████████████████████▉ | 5764/12000 [22:05<23:19, 4.45it/s]
train loss:0.0017691516335644336
48%|████████████████████████████████████▉ | 5765/12000 [22:05<23:23, 4.44it/s]
train loss:0.005249041582707642
48%|████████████████████████████████████▉ | 5766/12000 [22:05<23:26, 4.43it/s]
train loss:0.0033250348899692855
48%|█████████████████████████████████████ | 5767/12000 [22:05<23:27, 4.43it/s]
train loss:0.01289173060417732
48%|█████████████████████████████████████ | 5768/12000 [22:06<23:23, 4.44it/s]
train loss:0.010872088262731797
48%|█████████████████████████████████████ | 5769/12000 [22:06<23:26, 4.43it/s]
train loss:0.015514448069940578
48%|█████████████████████████████████████ | 5770/12000 [22:06<23:36, 4.40it/s]
train loss:0.009124741681529203
48%|█████████████████████████████████████ | 5771/12000 [22:06<23:33, 4.41it/s]
train loss:0.0028217541860311407
48%|█████████████████████████████████████ | 5772/12000 [22:07<23:35, 4.40it/s]
train loss:0.003864171548089428
48%|█████████████████████████████████████ | 5773/12000 [22:07<23:21, 4.44it/s]
train loss:0.0011871958172349998
48%|█████████████████████████████████████ | 5774/12000 [22:07<23:25, 4.43it/s]
train loss:0.0009142257011429151
48%|█████████████████████████████████████ | 5775/12000 [22:07<23:29, 4.42it/s]
train loss:0.027160698126833697
48%|█████████████████████████████████████ | 5776/12000 [22:07<23:33, 4.40it/s]
train loss:0.002171913888034858
48%|█████████████████████████████████████ | 5777/12000 [22:08<23:35, 4.40it/s]
train loss:0.0038413718761897684
48%|█████████████████████████████████████ | 5778/12000 [22:08<23:33, 4.40it/s]
train loss:0.001642639762967498
48%|█████████████████████████████████████ | 5779/12000 [22:08<23:32, 4.40it/s]
train loss:0.0008251539294570933
48%|█████████████████████████████████████ | 5780/12000 [22:08<23:30, 4.41it/s]
train loss:0.004473816950446539
48%|█████████████████████████████████████ | 5781/12000 [22:09<23:35, 4.39it/s]
train loss:0.019295366016177377
48%|█████████████████████████████████████ | 5782/12000 [22:09<23:16, 4.45it/s]
train loss:0.0009699805675998438
48%|█████████████████████████████████████ | 5783/12000 [22:09<23:21, 4.43it/s]
train loss:0.04865773072008404
48%|█████████████████████████████████████ | 5784/12000 [22:09<23:23, 4.43it/s]
train loss:0.00564068959353364
48%|█████████████████████████████████████ | 5785/12000 [22:09<23:22, 4.43it/s]
train loss:0.002392873166766675
48%|█████████████████████████████████████▏ | 5786/12000 [22:10<23:01, 4.50it/s]
train loss:0.0036494445621004096
48%|█████████████████████████████████████▏ | 5787/12000 [22:10<23:01, 4.50it/s]
train loss:0.0026403374777593035
48%|█████████████████████████████████████▏ | 5788/12000 [22:10<23:07, 4.48it/s]
train loss:0.005491749295941634
48%|█████████████████████████████████████▏ | 5789/12000 [22:10<23:10, 4.47it/s]
train loss:0.002479724606696593
48%|█████████████████████████████████████▏ | 5790/12000 [22:11<23:12, 4.46it/s]
train loss:0.0038269295958453403
48%|█████████████████████████████████████▏ | 5791/12000 [22:11<23:09, 4.47it/s]
train loss:0.005649577320231792
48%|█████████████████████████████████████▏ | 5792/12000 [22:11<23:11, 4.46it/s]
train loss:0.008070736527532306
48%|█████████████████████████████████████▏ | 5793/12000 [22:11<23:15, 4.45it/s]
train loss:0.0024997914870095493
48%|█████████████████████████████████████▏ | 5794/12000 [22:11<23:31, 4.40it/s]
train loss:0.003661312616405414
48%|█████████████████████████████████████▏ | 5795/12000 [22:12<25:24, 4.07it/s]
train loss:0.0023382218607811895
48%|█████████████████████████████████████▏ | 5796/12000 [22:12<25:06, 4.12it/s]
train loss:0.013480581640809848
48%|█████████████████████████████████████▏ | 5797/12000 [22:12<24:44, 4.18it/s]
train loss:0.0003753948511065609
48%|█████████████████████████████████████▏ | 5798/12000 [22:12<24:29, 4.22it/s]
train loss:0.0008875833787997675
48%|█████████████████████████████████████▏ | 5799/12000 [22:13<24:03, 4.30it/s]
train loss:0.0035423987250205774
48%|█████████████████████████████████████▏ | 5800/12000 [22:13<23:48, 4.34it/s]
train loss:0.0049781247497215474
48%|█████████████████████████████████████▏ | 5801/12000 [22:13<23:48, 4.34it/s]
train loss:0.004400918833048775
48%|█████████████████████████████████████▏ | 5802/12000 [22:13<23:50, 4.33it/s]
train loss:0.002460641120744604
48%|█████████████████████████████████████▏ | 5803/12000 [22:14<24:07, 4.28it/s]
train loss:0.0033719471230537917
48%|█████████████████████████████████████▏ | 5804/12000 [22:14<23:43, 4.35it/s]
train loss:0.005925816619757884
48%|█████████████████████████████████████▏ | 5805/12000 [22:14<23:34, 4.38it/s]
train loss:0.0048025136663383695
48%|█████████████████████████████████████▎ | 5806/12000 [22:14<23:31, 4.39it/s]
train loss:0.0017567741177380266
48%|█████████████████████████████████████▎ | 5807/12000 [22:15<23:57, 4.31it/s]
train loss:0.0014052439132217595
48%|█████████████████████████████████████▎ | 5808/12000 [22:15<23:33, 4.38it/s]
train loss:0.0011499902055128789
48%|█████████████████████████████████████▎ | 5809/12000 [22:15<23:28, 4.39it/s]
train loss:0.0007676256023691678
48%|█████████████████████████████████████▎ | 5810/12000 [22:15<23:24, 4.41it/s]
train loss:0.0052418070489619615
48%|█████████████████████████████████████▎ | 5811/12000 [22:15<23:20, 4.42it/s]
train loss:0.0020284773078569464
48%|█████████████████████████████████████▎ | 5812/12000 [22:16<23:19, 4.42it/s]
train loss:0.004999254149281089
48%|█████████████████████████████████████▎ | 5813/12000 [22:16<23:17, 4.43it/s]
train loss:0.0036382335420269757
48%|█████████████████████████████████████▎ | 5814/12000 [22:16<23:18, 4.42it/s]
train loss:0.0034200804193535005
48%|█████████████████████████████████████▎ | 5815/12000 [22:16<23:19, 4.42it/s]
train loss:0.0019410892119769998
48%|█████████████████████████████████████▎ | 5816/12000 [22:17<23:35, 4.37it/s]
train loss:0.000712665637028617
48%|█████████████████████████████████████▎ | 5817/12000 [22:17<24:00, 4.29it/s]
train loss:0.0034996932765858297
48%|█████████████████████████████████████▎ | 5818/12000 [22:17<23:45, 4.34it/s]
train loss:0.004248670419959801
48%|█████████████████████████████████████▎ | 5819/12000 [22:17<23:37, 4.36it/s]
train loss:0.0038930066510757646
48%|█████████████████████████████████████▎ | 5820/12000 [22:18<23:32, 4.38it/s]
train loss:0.009272243937481594
49%|█████████████████████████████████████▎ | 5821/12000 [22:18<23:10, 4.44it/s]
train loss:0.003687934708905111
49%|█████████████████████████████████████▎ | 5822/12000 [22:18<23:13, 4.43it/s]
train loss:0.002323327823139463
49%|█████████████████████████████████████▎ | 5823/12000 [22:18<23:13, 4.43it/s]
train loss:0.004924771611518583
49%|█████████████████████████████████████▎ | 5824/12000 [22:18<23:14, 4.43it/s]
train loss:0.004298435951825678
49%|█████████████████████████████████████▍ | 5825/12000 [22:19<23:07, 4.45it/s]
train loss:0.010174631947469832
49%|█████████████████████████████████████▍ | 5826/12000 [22:19<23:04, 4.46it/s]
train loss:0.006406957829617556
49%|█████████████████████████████████████▍ | 5827/12000 [22:19<23:09, 4.44it/s]
train loss:0.0008434446997032533
49%|█████████████████████████████████████▍ | 5828/12000 [22:19<23:13, 4.43it/s]
train loss:0.007462177498322706
49%|█████████████████████████████████████▍ | 5829/12000 [22:20<23:17, 4.42it/s]
train loss:0.0030256447692036
49%|█████████████████████████████████████▍ | 5830/12000 [22:20<22:59, 4.47it/s]
train loss:0.001855933639040773
49%|█████████████████████████████████████▍ | 5831/12000 [22:20<23:03, 4.46it/s]
train loss:0.0029833138619599683
49%|█████████████████████████████████████▍ | 5832/12000 [22:20<23:07, 4.45it/s]
train loss:0.004582566984797976
49%|█████████████████████████████████████▍ | 5833/12000 [22:20<23:10, 4.44it/s]
train loss:0.017906457960297047
49%|█████████████████████████████████████▍ | 5834/12000 [22:21<22:57, 4.48it/s]
train loss:0.003944176026304961
49%|█████████████████████████████████████▍ | 5835/12000 [22:21<23:04, 4.45it/s]
train loss:0.005756986379660271
49%|█████████████████████████████████████▍ | 5836/12000 [22:21<23:09, 4.44it/s]
train loss:0.006382093100199129
49%|█████████████████████████████████████▍ | 5837/12000 [22:21<23:13, 4.42it/s]
train loss:0.03874755784926586
49%|█████████████████████████████████████▍ | 5838/12000 [22:22<23:15, 4.42it/s]
train loss:0.00791844660814069
49%|█████████████████████████████████████▍ | 5839/12000 [22:22<23:02, 4.46it/s]
train loss:0.00895321135959681
49%|█████████████████████████████████████▍ | 5840/12000 [22:22<23:05, 4.44it/s]
train loss:0.001437046529711297
49%|█████████████████████████████████████▍ | 5841/12000 [22:22<23:10, 4.43it/s]
train loss:0.0009832630891753247
49%|█████████████████████████████████████▍ | 5842/12000 [22:22<23:14, 4.42it/s]
train loss:0.0020675872619596754
49%|█████████████████████████████████████▍ | 5843/12000 [22:23<23:00, 4.46it/s]
train loss:0.00931719349805926
49%|█████████████████████████████████████▍ | 5844/12000 [22:23<23:06, 4.44it/s]
train loss:0.0014343028494920643
49%|█████████████████████████████████████▌ | 5845/12000 [22:23<23:08, 4.43it/s]
train loss:0.00048143465021697996
49%|█████████████████████████████████████▌ | 5846/12000 [22:23<23:09, 4.43it/s]
train loss:0.05070214516800866
49%|█████████████████████████████████████▌ | 5847/12000 [22:24<23:08, 4.43it/s]
train loss:0.003993844380019065
49%|█████████████████████████████████████▌ | 5848/12000 [22:24<22:57, 4.47it/s]
train loss:0.004444242311549901
49%|█████████████████████████████████████▌ | 5849/12000 [22:24<23:02, 4.45it/s]
train loss:0.002642916651580571
49%|█████████████████████████████████████▌ | 5850/12000 [22:24<23:06, 4.44it/s]
train loss:0.003560214857657958
49%|█████████████████████████████████████▌ | 5851/12000 [22:24<23:11, 4.42it/s]
train loss:0.0028408341877247077
49%|█████████████████████████████████████▌ | 5852/12000 [22:25<23:02, 4.45it/s]
train loss:0.005555089497996656
49%|█████████████████████████████████████▌ | 5853/12000 [22:25<23:05, 4.44it/s]
train loss:0.007267018932836592
49%|█████████████████████████████████████▌ | 5854/12000 [22:25<23:07, 4.43it/s]
train loss:0.0031645417275913508
49%|█████████████████████████████████████▌ | 5855/12000 [22:25<23:10, 4.42it/s]
train loss:0.006783581064665669
49%|█████████████████████████████████████▌ | 5856/12000 [22:26<23:03, 4.44it/s]
train loss:0.003126465746865233
49%|█████████████████████████████████████▌ | 5857/12000 [22:26<22:58, 4.46it/s]
train loss:0.004008637217379621
49%|█████████████████████████████████████▌ | 5858/12000 [22:26<23:05, 4.43it/s]
train loss:0.006045064354624157
49%|█████████████████████████████████████▌ | 5859/12000 [22:26<23:08, 4.42it/s]
train loss:0.004572524654917046
49%|█████████████████████████████████████▌ | 5860/12000 [22:27<23:14, 4.40it/s]
train loss:0.002594911281668999
49%|█████████████████████████████████████▌ | 5861/12000 [22:27<22:54, 4.47it/s]
train loss:0.005919359482206905
49%|█████████████████████████████████████▌ | 5862/12000 [22:27<22:57, 4.46it/s]
train loss:0.010793699857546862
49%|█████████████████████████████████████▌ | 5863/12000 [22:27<23:13, 4.40it/s]
train loss:0.011968383310405896
49%|█████████████████████████████████████▋ | 5864/12000 [22:27<23:12, 4.41it/s]
train loss:0.005105115349923623
49%|█████████████████████████████████████▋ | 5865/12000 [22:28<23:05, 4.43it/s]
train loss:0.0030760967883916735
49%|█████████████████████████████████████▋ | 5866/12000 [22:28<23:15, 4.40it/s]
train loss:0.00672946153976338
49%|█████████████████████████████████████▋ | 5867/12000 [22:28<23:24, 4.37it/s]
train loss:0.0014808998587737422
49%|█████████████████████████████████████▋ | 5868/12000 [22:28<23:28, 4.35it/s]
train loss:0.0007221009359108832
49%|█████████████████████████████████████▋ | 5869/12000 [22:29<23:38, 4.32it/s]
train loss:0.0007541540428684531
49%|█████████████████████████████████████▋ | 5870/12000 [22:29<23:34, 4.33it/s]
train loss:0.0009715989672672431
49%|█████████████████████████████████████▋ | 5871/12000 [22:29<23:39, 4.32it/s]
train loss:0.006095872858228184
49%|█████████████████████████████████████▋ | 5872/12000 [22:29<23:42, 4.31it/s]
train loss:0.003423867007054082
49%|█████████████████████████████████████▋ | 5873/12000 [22:29<23:37, 4.32it/s]
train loss:0.0014202777865058235
49%|█████████████████████████████████████▋ | 5874/12000 [22:30<24:50, 4.11it/s]
train loss:0.0063131368416167975
49%|█████████████████████████████████████▋ | 5875/12000 [22:30<24:46, 4.12it/s]
train loss:0.007056047862174564
49%|█████████████████████████████████████▋ | 5876/12000 [22:30<24:27, 4.17it/s]
train loss:0.003107841509986277
49%|█████████████████████████████████████▋ | 5877/12000 [22:30<24:06, 4.23it/s]
train loss:0.0005943757173743625
49%|█████████████████████████████████████▋ | 5878/12000 [22:31<23:45, 4.29it/s]
train loss:0.0022961692920287933
49%|█████████████████████████████████████▋ | 5879/12000 [22:31<23:40, 4.31it/s]
train loss:0.0005215280549762504
49%|█████████████████████████████████████▋ | 5880/12000 [22:31<23:34, 4.33it/s]
train loss:0.0027796603543944064
49%|█████████████████████████████████████▋ | 5881/12000 [22:31<23:32, 4.33it/s]
train loss:0.005240366457999809
49%|█████████████████████████████████████▋ | 5882/12000 [22:32<23:25, 4.35it/s]
train loss:0.020411612862800868
49%|█████████████████████████████████████▋ | 5883/12000 [22:32<23:22, 4.36it/s]
train loss:0.012559166587131554
49%|█████████████████████████████████████▊ | 5884/12000 [22:32<23:23, 4.36it/s]
train loss:0.001292569350375708
49%|█████████████████████████████████████▊ | 5885/12000 [22:32<23:23, 4.36it/s]
train loss:0.00582131293428665
49%|█████████████████████████████████████▊ | 5886/12000 [22:33<23:26, 4.35it/s]
train loss:0.0026311604010263445
49%|█████████████████████████████████████▊ | 5887/12000 [22:33<24:47, 4.11it/s]
train loss:0.006107306532879005
49%|█████████████████████████████████████▊ | 5888/12000 [22:33<26:02, 3.91it/s]
train loss:0.0006720041047905121
49%|█████████████████████████████████████▊ | 5889/12000 [22:33<26:52, 3.79it/s]
train loss:0.004041191129412071
49%|█████████████████████████████████████▊ | 5890/12000 [22:34<27:17, 3.73it/s]
train loss:0.009430448114164967
49%|█████████████████████████████████████▊ | 5891/12000 [22:34<26:27, 3.85it/s]
train loss:0.00292777321483426
49%|█████████████████████████████████████▊ | 5892/12000 [22:34<25:53, 3.93it/s]
train loss:0.002607769386378081
49%|█████████████████████████████████████▊ | 5893/12000 [22:34<26:12, 3.88it/s]
train loss:0.08207353040083222
49%|█████████████████████████████████████▊ | 5894/12000 [22:35<25:17, 4.02it/s]
train loss:0.0018684917477492405
49%|█████████████████████████████████████▊ | 5895/12000 [22:35<24:41, 4.12it/s]
train loss:0.0006061329563759848
49%|█████████████████████████████████████▊ | 5896/12000 [22:35<25:13, 4.03it/s]
train loss:0.0046986124337070395
49%|█████████████████████████████████████▊ | 5897/12000 [22:35<24:40, 4.12it/s]
train loss:0.001146344758401163
49%|█████████████████████████████████████▊ | 5898/12000 [22:36<24:16, 4.19it/s]
train loss:0.0005405261657969656
49%|█████████████████████████████████████▊ | 5899/12000 [22:36<23:42, 4.29it/s]
train loss:0.0035678192257606383
49%|█████████████████████████████████████▊ | 5900/12000 [22:36<23:35, 4.31it/s]
train loss:0.0006437415211690743
49%|█████████████████████████████████████▊ | 5901/12000 [22:36<24:54, 4.08it/s]
train loss:0.007097950693457794
49%|█████████████████████████████████████▊ | 5902/12000 [22:37<25:48, 3.94it/s]
train loss:0.0027163912487994497
49%|█████████████████████████████████████▉ | 5903/12000 [22:37<25:19, 4.01it/s]
train loss:0.0007480606931587421
49%|█████████████████████████████████████▉ | 5904/12000 [22:37<24:48, 4.10it/s]
train loss:0.0019712178346151243
49%|█████████████████████████████████████▉ | 5905/12000 [22:37<24:21, 4.17it/s]
train loss:0.02186711791515263
49%|█████████████████████████████████████▉ | 5906/12000 [22:37<24:03, 4.22it/s]
train loss:0.007588125740359367
49%|█████████████████████████████████████▉ | 5907/12000 [22:38<23:26, 4.33it/s]
train loss:0.004031254099801526
49%|█████████████████████████████████████▉ | 5908/12000 [22:38<23:29, 4.32it/s]
train loss:0.0030558350665863604
49%|█████████████████████████████████████▉ | 5909/12000 [22:38<23:25, 4.33it/s]
train loss:0.005145850259034037
49%|█████████████████████████████████████▉ | 5910/12000 [22:38<23:18, 4.35it/s]
train loss:0.02180596420163589
49%|█████████████████████████████████████▉ | 5911/12000 [22:39<23:11, 4.38it/s]
train loss:0.0010060054216589067
49%|█████████████████████████████████████▉ | 5912/12000 [22:39<23:06, 4.39it/s]
train loss:0.002783028472364454
49%|█████████████████████████████████████▉ | 5913/12000 [22:39<23:06, 4.39it/s]
train loss:0.0005381356304035863
49%|█████████████████████████████████████▉ | 5914/12000 [22:39<23:09, 4.38it/s]
train loss:0.02038810294332112
49%|█████████████████████████████████████▉ | 5915/12000 [22:40<23:14, 4.36it/s]
train loss:0.004132870097340067
49%|█████████████████████████████████████▉ | 5916/12000 [22:40<23:07, 4.38it/s]
train loss:0.0019556375109848474
49%|█████████████████████████████████████▉ | 5917/12000 [22:40<23:13, 4.37it/s]
train loss:0.003786926351600047
49%|█████████████████████████████████████▉ | 5918/12000 [22:40<24:42, 4.10it/s]
train loss:0.03168247596408196
49%|█████████████████████████████████████▉ | 5919/12000 [22:41<25:26, 3.98it/s]
train loss:0.0031420095015681094
49%|█████████████████████████████████████▉ | 5920/12000 [22:41<24:44, 4.09it/s]
train loss:0.00489460488751486
49%|█████████████████████████████████████▉ | 5921/12000 [22:41<24:33, 4.12it/s]
train loss:0.0028232552288122163
49%|█████████████████████████████████████▉ | 5922/12000 [22:41<24:11, 4.19it/s]
train loss:0.004682166967128859
49%|██████████████████████████████████████ | 5923/12000 [22:41<24:13, 4.18it/s]
train loss:0.009638640398288888
49%|██████████████████████████████████████ | 5924/12000 [22:42<24:04, 4.21it/s]
train loss:0.0014124256191609533
49%|██████████████████████████████████████ | 5925/12000 [22:42<23:49, 4.25it/s]
train loss:0.001186757736919686
49%|██████████████████████████████████████ | 5926/12000 [22:42<24:26, 4.14it/s]
train loss:0.022778627727148785
49%|██████████████████████████████████████ | 5927/12000 [22:42<25:29, 3.97it/s]
train loss:0.003934154743484795
49%|██████████████████████████████████████ | 5928/12000 [22:43<24:44, 4.09it/s]
train loss:0.0064774921536097495
49%|██████████████████████████████████████ | 5929/12000 [22:43<24:15, 4.17it/s]
train loss:0.018366028642716983
49%|██████████████████████████████████████ | 5930/12000 [22:43<24:44, 4.09it/s]
train loss:0.0009686740602872604
49%|██████████████████████████████████████ | 5931/12000 [22:43<24:15, 4.17it/s]
train loss:0.009482332599179777
49%|██████████████████████████████████████ | 5932/12000 [22:44<23:45, 4.26it/s]
train loss:0.004416522872238517
49%|██████████████████████████████████████ | 5933/12000 [22:44<23:43, 4.26it/s]
train loss:0.009563534983044132
49%|██████████████████████████████████████ | 5934/12000 [22:44<24:49, 4.07it/s]
train loss:0.012019562525527392
49%|██████████████████████████████████████ | 5935/12000 [22:44<26:18, 3.84it/s]
train loss:0.0016554346408357372
49%|██████████████████████████████████████ | 5936/12000 [22:45<25:06, 4.02it/s]
train loss:0.002090620741214658
49%|██████████████████████████████████████ | 5937/12000 [22:45<24:29, 4.13it/s]
train loss:0.002896332799985298
49%|██████████████████████████████████████ | 5938/12000 [22:45<24:00, 4.21it/s]
train loss:0.0076811607490408626
49%|██████████████████████████████████████ | 5939/12000 [22:45<23:25, 4.31it/s]
train loss:0.0025927227433568266
50%|██████████████████████████████████████ | 5940/12000 [22:46<23:09, 4.36it/s]
train loss:0.007524883825747731
50%|██████████████████████████████████████ | 5941/12000 [22:46<22:50, 4.42it/s]
train loss:0.027975908507672287
50%|██████████████████████████████████████▏ | 5942/12000 [22:46<22:52, 4.41it/s]
train loss:0.001594243665309624
50%|██████████████████████████████████████▏ | 5943/12000 [22:46<22:54, 4.41it/s]
train loss:0.0047138650176903815
50%|██████████████████████████████████████▏ | 5944/12000 [22:46<22:54, 4.41it/s]
train loss:0.008696286738198764
50%|██████████████████████████████████████▏ | 5945/12000 [22:47<22:44, 4.44it/s]
train loss:0.0028751796374183896
50%|██████████████████████████████████████▏ | 5946/12000 [22:47<22:49, 4.42it/s]
train loss:0.0021853420960761556
50%|██████████████████████████████████████▏ | 5947/12000 [22:47<22:49, 4.42it/s]
train loss:0.0023507966703840135
50%|██████████████████████████████████████▏ | 5948/12000 [22:47<22:52, 4.41it/s]
train loss:0.0007540502944957872
50%|██████████████████████████████████████▏ | 5949/12000 [22:48<22:52, 4.41it/s]
train loss:0.006466652487737547
50%|██████████████████████████████████████▏ | 5950/12000 [22:48<22:46, 4.43it/s]
train loss:0.004205691058348067
50%|██████████████████████████████████████▏ | 5951/12000 [22:48<22:49, 4.42it/s]
train loss:0.002606558995208379
50%|██████████████████████████████████████▏ | 5952/12000 [22:48<22:49, 4.42it/s]
train loss:0.01133762192449967
50%|██████████████████████████████████████▏ | 5953/12000 [22:49<22:56, 4.39it/s]
train loss:0.008427605233819304
50%|██████████████████████████████████████▏ | 5954/12000 [22:49<22:43, 4.43it/s]
train loss:0.0028744044225845673
50%|██████████████████████████████████████▏ | 5955/12000 [22:49<23:00, 4.38it/s]
train loss:0.017868773663845823
50%|██████████████████████████████████████▏ | 5956/12000 [22:49<23:06, 4.36it/s]
train loss:0.0027594265585015286
50%|██████████████████████████████████████▏ | 5957/12000 [22:49<23:04, 4.37it/s]
train loss:0.0013180428964017412
50%|██████████████████████████████████████▏ | 5958/12000 [22:50<22:44, 4.43it/s]
train loss:0.002117113825557865
50%|██████████████████████████████████████▏ | 5959/12000 [22:50<22:59, 4.38it/s]
train loss:0.0010103943697389614
50%|██████████████████████████████████████▏ | 5960/12000 [22:50<22:57, 4.38it/s]
train loss:0.0031143754976646516
50%|██████████████████████████████████████▏ | 5961/12000 [22:50<23:01, 4.37it/s]
train loss:0.00382591944894605
50%|██████████████████████████████████████▎ | 5962/12000 [22:51<23:00, 4.37it/s]
train loss:0.0009793393467228148
50%|██████████████████████████████████████▎ | 5963/12000 [22:51<22:45, 4.42it/s]
train loss:0.007663384832121197
50%|██████████████████████████████████████▎ | 5964/12000 [22:51<22:47, 4.41it/s]
train loss:0.0039665944225904595
50%|██████████████████████████████████████▎ | 5965/12000 [22:51<22:45, 4.42it/s]
train loss:0.0003228414168236542
50%|██████████████████████████████████████▎ | 5966/12000 [22:51<22:52, 4.40it/s]
train loss:0.03979895789833973
50%|██████████████████████████████████████▎ | 5967/12000 [22:52<22:38, 4.44it/s]
train loss:0.004590638308317048
50%|██████████████████████████████████████▎ | 5968/12000 [22:52<22:44, 4.42it/s]
train loss:0.004938246816878219
50%|██████████████████████████████████████▎ | 5969/12000 [22:52<22:46, 4.41it/s]
train loss:0.005687122934653085
50%|██████████████████████████████████████▎ | 5970/12000 [22:52<22:49, 4.40it/s]
train loss:0.00544388899490013
50%|██████████████████████████████████████▎ | 5971/12000 [22:53<22:58, 4.37it/s]
train loss:0.0017461219399124866
50%|██████████████████████████████████████▎ | 5972/12000 [22:53<22:54, 4.38it/s]
train loss:0.004369223905466949
50%|██████████████████████████████████████▎ | 5973/12000 [22:53<22:54, 4.38it/s]
train loss:0.006840174602296901
50%|██████████████████████████████████████▎ | 5974/12000 [22:53<22:55, 4.38it/s]
train loss:0.010307191647956779
50%|██████████████████████████████████████▎ | 5975/12000 [22:54<22:55, 4.38it/s]
train loss:0.004073561519903233
50%|██████████████████████████████████████▎ | 5976/12000 [22:54<22:39, 4.43it/s]
train loss:0.0007510414858570203
50%|██████████████████████████████████████▎ | 5977/12000 [22:54<22:51, 4.39it/s]
train loss:0.0033507661568229524
50%|██████████████████████████████████████▎ | 5978/12000 [22:54<22:50, 4.39it/s]
train loss:0.005266776946762268
50%|██████████████████████████████████████▎ | 5979/12000 [22:54<22:50, 4.39it/s]
train loss:0.00024909572450159637
50%|██████████████████████████████████████▎ | 5980/12000 [22:55<22:35, 4.44it/s]
train loss:0.005790400032829806
50%|██████████████████████████████████████▍ | 5981/12000 [22:55<22:40, 4.42it/s]
train loss:0.008171213240637493
50%|██████████████████████████████████████▍ | 5982/12000 [22:55<22:48, 4.40it/s]
train loss:0.001559719284628523
50%|██████████████████████████████████████▍ | 5983/12000 [22:55<22:50, 4.39it/s]
train loss:0.008433814173406327
50%|██████████████████████████████████████▍ | 5984/12000 [22:56<22:49, 4.39it/s]
train loss:0.0028649913625912096
50%|██████████████████████████████████████▍ | 5985/12000 [22:56<22:34, 4.44it/s]
train loss:0.0014237930680765737
50%|██████████████████████████████████████▍ | 5986/12000 [22:56<22:38, 4.43it/s]
train loss:0.005136705809460121
50%|██████████████████████████████████████▍ | 5987/12000 [22:56<22:42, 4.41it/s]
train loss:0.002222024306823239
50%|██████████████████████████████████████▍ | 5988/12000 [22:56<22:51, 4.38it/s]
train loss:0.014784797408032187
50%|██████████████████████████████████████▍ | 5989/12000 [22:57<22:49, 4.39it/s]
train loss:0.00029351277040213857
50%|██████████████████████████████████████▍ | 5990/12000 [22:57<22:59, 4.36it/s]
train loss:0.01093450799303593
50%|██████████████████████████████████████▍ | 5991/12000 [22:57<22:58, 4.36it/s]
train loss:0.002155459310023957
50%|██████████████████████████████████████▍ | 5992/12000 [22:57<23:00, 4.35it/s]
train loss:0.009296624191834392
50%|██████████████████████████████████████▍ | 5993/12000 [22:58<22:48, 4.39it/s]
train loss:0.002756909810355851
50%|██████████████████████████████████████▍ | 5994/12000 [22:58<22:47, 4.39it/s]
train loss:0.00714674003296241
50%|██████████████████████████████████████▍ | 5995/12000 [22:58<22:47, 4.39it/s]
train loss:0.0017960457382964925
50%|██████████████████████████████████████▍ | 5996/12000 [22:58<22:38, 4.42it/s]
train loss:0.0022217515402393256
50%|██████████████████████████████████████▍ | 5997/12000 [22:59<22:42, 4.40it/s]
train loss:0.025834030483063732
50%|██████████████████████████████████████▍ | 5998/12000 [22:59<22:36, 4.42it/s]
train loss:0.0031040937776210553
50%|██████████████████████████████████████▍ | 5999/12000 [22:59<22:43, 4.40it/s]
train loss:0.00414039601371008
50%|██████████████████████████████████████▌ | 6000/12000 [22:59<22:52, 4.37it/s]
train loss:0.012914072179840945 train loss:0.00717681278873242
50%|█████████████████████████████████████▌ | 6001/12000 [23:01<1:10:09, 1.43it/s]
=== epoch:11, train acc:0.993, test acc:0.988 ===
50%|██████████████████████████████████████▌ | 6002/12000 [23:01<56:14, 1.78it/s]
train loss:0.004218062183504011
50%|██████████████████████████████████████▌ | 6003/12000 [23:01<46:51, 2.13it/s]
train loss:0.007649952221728817
50%|██████████████████████████████████████▌ | 6004/12000 [23:02<40:45, 2.45it/s]
train loss:0.043948762820457385
50%|██████████████████████████████████████▌ | 6005/12000 [23:02<36:49, 2.71it/s]
train loss:0.0032324458933113477
50%|██████████████████████████████████████▌ | 6006/12000 [23:02<32:55, 3.03it/s]
train loss:0.020913107851265145
50%|██████████████████████████████████████▌ | 6007/12000 [23:03<30:21, 3.29it/s]
train loss:0.04931443484857408
50%|██████████████████████████████████████▌ | 6008/12000 [23:03<28:19, 3.53it/s]
train loss:0.008318122435153494
50%|██████████████████████████████████████▌ | 6009/12000 [23:03<27:45, 3.60it/s]
train loss:0.03848090015193932
50%|██████████████████████████████████████▌ | 6010/12000 [23:03<26:19, 3.79it/s]
train loss:0.0030511952976139973
50%|██████████████████████████████████████▌ | 6011/12000 [23:04<26:40, 3.74it/s]
train loss:0.005462939010141765
50%|██████████████████████████████████████▌ | 6012/12000 [23:04<26:14, 3.80it/s]
train loss:0.0026475888484684207
50%|██████████████████████████████████████▌ | 6013/12000 [23:04<25:21, 3.94it/s]
train loss:0.0012821640154534804
50%|██████████████████████████████████████▌ | 6014/12000 [23:04<25:27, 3.92it/s]
train loss:0.003539657574459444
50%|██████████████████████████████████████▌ | 6015/12000 [23:05<26:06, 3.82it/s]
train loss:0.004291853498759584
50%|██████████████████████████████████████▌ | 6016/12000 [23:05<25:52, 3.85it/s]
train loss:0.0037332037145913852
50%|██████████████████████████████████████▌ | 6017/12000 [23:05<26:17, 3.79it/s]
train loss:0.022271301830207202
50%|██████████████████████████████████████▌ | 6018/12000 [23:05<26:15, 3.80it/s]
train loss:0.005150454272589862
50%|██████████████████████████████████████▌ | 6019/12000 [23:06<25:25, 3.92it/s]
train loss:0.021790509560941862
50%|██████████████████████████████████████▋ | 6020/12000 [23:06<25:36, 3.89it/s]
train loss:0.0041221189808650395
50%|██████████████████████████████████████▋ | 6021/12000 [23:06<26:00, 3.83it/s]
train loss:0.008075414962507651
50%|██████████████████████████████████████▋ | 6022/12000 [23:06<26:31, 3.76it/s]
train loss:0.0032510051212035758
50%|██████████████████████████████████████▋ | 6023/12000 [23:07<26:09, 3.81it/s]
train loss:0.007992595566019174
50%|██████████████████████████████████████▋ | 6024/12000 [23:07<26:23, 3.77it/s]
train loss:0.05404967660092385
50%|██████████████████████████████████████▋ | 6025/12000 [23:07<25:26, 3.91it/s]
train loss:0.0002718669157902154
50%|██████████████████████████████████████▋ | 6026/12000 [23:07<24:53, 4.00it/s]
train loss:0.009804514744265769
50%|██████████████████████████████████████▋ | 6027/12000 [23:08<24:46, 4.02it/s]
train loss:0.0015454736302025597
50%|██████████████████████████████████████▋ | 6028/12000 [23:08<24:18, 4.10it/s]
train loss:0.005110030222704136
50%|██████████████████████████████████████▋ | 6029/12000 [23:08<25:12, 3.95it/s]
train loss:0.005129658195125508
50%|██████████████████████████████████████▋ | 6030/12000 [23:08<24:39, 4.03it/s]
train loss:0.006656741512089398
50%|██████████████████████████████████████▋ | 6031/12000 [23:09<25:20, 3.92it/s]
train loss:0.0155161708838049
50%|██████████████████████████████████████▋ | 6032/12000 [23:09<25:38, 3.88it/s]
train loss:0.0039687827161403
50%|██████████████████████████████████████▋ | 6033/12000 [23:09<26:22, 3.77it/s]
train loss:0.06267718229860822
50%|██████████████████████████████████████▋ | 6034/12000 [23:09<26:39, 3.73it/s]
train loss:0.0026052319770409334
50%|██████████████████████████████████████▋ | 6035/12000 [23:10<26:43, 3.72it/s]
train loss:0.012242543358217714
50%|██████████████████████████████████████▋ | 6036/12000 [23:10<26:53, 3.70it/s]
train loss:0.03887305958639767
50%|██████████████████████████████████████▋ | 6037/12000 [23:10<25:45, 3.86it/s]
train loss:0.0010761504291920089
50%|██████████████████████████████████████▋ | 6038/12000 [23:11<26:13, 3.79it/s]
train loss:0.002196579695031298
50%|██████████████████████████████████████▊ | 6039/12000 [23:11<25:07, 3.95it/s]
train loss:0.007140720251185584
50%|██████████████████████████████████████▊ | 6040/12000 [23:11<25:33, 3.89it/s]
train loss:0.013831508237127855
50%|██████████████████████████████████████▊ | 6041/12000 [23:11<24:54, 3.99it/s]
train loss:0.00833751696711037
50%|██████████████████████████████████████▊ | 6042/12000 [23:11<24:19, 4.08it/s]
train loss:0.0180775619690695
50%|██████████████████████████████████████▊ | 6043/12000 [23:12<23:36, 4.20it/s]
train loss:0.002714911069936444
50%|██████████████████████████████████████▊ | 6044/12000 [23:12<23:20, 4.25it/s]
train loss:0.010812243300650157
50%|██████████████████████████████████████▊ | 6045/12000 [23:12<23:13, 4.27it/s]
train loss:0.00298583853558754
50%|██████████████████████████████████████▊ | 6046/12000 [23:12<23:08, 4.29it/s]
train loss:0.01396646669920807
50%|██████████████████████████████████████▊ | 6047/12000 [23:13<23:24, 4.24it/s]
train loss:0.011299587742234734
50%|██████████████████████████████████████▊ | 6048/12000 [23:13<23:47, 4.17it/s]
train loss:0.0018562296699292052
50%|██████████████████████████████████████▊ | 6049/12000 [23:13<23:38, 4.19it/s]
train loss:0.003837337488507058
50%|██████████████████████████████████████▊ | 6050/12000 [23:13<23:17, 4.26it/s]
train loss:0.0030563386788223295
50%|██████████████████████████████████████▊ | 6051/12000 [23:14<23:03, 4.30it/s]
train loss:0.022280159919364675
50%|██████████████████████████████████████▊ | 6052/12000 [23:14<23:24, 4.24it/s]
train loss:0.02148622997639553
50%|██████████████████████████████████████▊ | 6053/12000 [23:14<23:12, 4.27it/s]
train loss:0.003546231483469906
50%|██████████████████████████████████████▊ | 6054/12000 [23:14<23:03, 4.30it/s]
train loss:0.0031800059712754087
50%|██████████████████████████████████████▊ | 6055/12000 [23:14<23:06, 4.29it/s]
train loss:0.0012297450172454284
50%|██████████████████████████████████████▊ | 6056/12000 [23:15<23:18, 4.25it/s]
train loss:0.005478469873768783
50%|██████████████████████████████████████▊ | 6057/12000 [23:15<23:05, 4.29it/s]
train loss:0.01533083714808315
50%|██████████████████████████████████████▊ | 6058/12000 [23:15<23:05, 4.29it/s]
train loss:0.0033197189519540466
50%|██████████████████████████████████████▉ | 6059/12000 [23:15<23:04, 4.29it/s]
train loss:0.011830171284730134
50%|██████████████████████████████████████▉ | 6060/12000 [23:16<22:46, 4.35it/s]
train loss:0.010937024339700629
51%|██████████████████████████████████████▉ | 6061/12000 [23:16<22:47, 4.34it/s]
train loss:0.0023493689100944444
51%|██████████████████████████████████████▉ | 6062/12000 [23:16<22:47, 4.34it/s]
train loss:0.020282684513589343
51%|██████████████████████████████████████▉ | 6063/12000 [23:16<23:06, 4.28it/s]
train loss:0.002597270900542009
51%|██████████████████████████████████████▉ | 6064/12000 [23:17<22:53, 4.32it/s]
train loss:0.004194361492358501
51%|██████████████████████████████████████▉ | 6065/12000 [23:17<22:42, 4.36it/s]
train loss:0.008219292960940924
51%|██████████████████████████████████████▉ | 6066/12000 [23:17<22:45, 4.35it/s]
train loss:0.014803498323391768
51%|██████████████████████████████████████▉ | 6067/12000 [23:17<22:41, 4.36it/s]
train loss:0.004308410634613454
51%|██████████████████████████████████████▉ | 6068/12000 [23:17<22:20, 4.42it/s]
train loss:0.0027370158264618054
51%|██████████████████████████████████████▉ | 6069/12000 [23:18<22:19, 4.43it/s]
train loss:0.002091352386951999
51%|██████████████████████████████████████▉ | 6070/12000 [23:18<22:28, 4.40it/s]
train loss:0.0016728810279981277
51%|██████████████████████████████████████▉ | 6071/12000 [23:18<22:34, 4.38it/s]
train loss:0.009330992029193033
51%|██████████████████████████████████████▉ | 6072/12000 [23:18<22:32, 4.38it/s]
train loss:0.009382653106128413
51%|██████████████████████████████████████▉ | 6073/12000 [23:19<22:28, 4.40it/s]
train loss:0.005468151868897031
51%|██████████████████████████████████████▉ | 6074/12000 [23:19<22:32, 4.38it/s]
train loss:0.0033241817801703683
51%|██████████████████████████████████████▉ | 6075/12000 [23:19<22:27, 4.40it/s]
train loss:0.009212307962765709
51%|██████████████████████████████████████▉ | 6076/12000 [23:19<22:27, 4.40it/s]
train loss:0.0009008002728392904
51%|██████████████████████████████████████▉ | 6077/12000 [23:20<22:43, 4.34it/s]
train loss:0.0022179691572218824
51%|███████████████████████████████████████ | 6078/12000 [23:20<22:22, 4.41it/s]
train loss:0.0014331353582951022
51%|███████████████████████████████████████ | 6079/12000 [23:20<22:41, 4.35it/s]
train loss:0.004910033975100861
51%|███████████████████████████████████████ | 6080/12000 [23:20<22:44, 4.34it/s]
train loss:0.0016129576540748107
51%|███████████████████████████████████████ | 6081/12000 [23:20<22:41, 4.35it/s]
train loss:0.002296134052974812
51%|███████████████████████████████████████ | 6082/12000 [23:21<22:29, 4.39it/s]
train loss:0.004758898287570369
51%|███████████████████████████████████████ | 6083/12000 [23:21<22:10, 4.45it/s]
train loss:0.002416904942029162
51%|███████████████████████████████████████ | 6084/12000 [23:21<22:35, 4.37it/s]
train loss:0.0021999444732912553
51%|███████████████████████████████████████ | 6085/12000 [23:21<22:29, 4.38it/s]
train loss:0.005904130165897307
51%|███████████████████████████████████████ | 6086/12000 [23:22<22:34, 4.36it/s]
train loss:0.00040008984316001307
51%|███████████████████████████████████████ | 6087/12000 [23:22<22:27, 4.39it/s]
train loss:0.01695646224608622
51%|███████████████████████████████████████ | 6088/12000 [23:22<22:28, 4.39it/s]
train loss:0.003953593968281104
51%|███████████████████████████████████████ | 6089/12000 [23:22<22:36, 4.36it/s]
train loss:0.0027963025243844166
51%|███████████████████████████████████████ | 6090/12000 [23:23<22:57, 4.29it/s]
train loss:0.003158297935433113
51%|███████████████████████████████████████ | 6091/12000 [23:23<22:34, 4.36it/s]
train loss:0.005854240427773536
51%|███████████████████████████████████████ | 6092/12000 [23:23<22:31, 4.37it/s]
train loss:0.0024737572817538707
51%|███████████████████████████████████████ | 6093/12000 [23:23<22:29, 4.38it/s]
train loss:0.008676824485307872
51%|███████████████████████████████████████ | 6094/12000 [23:23<22:26, 4.38it/s]
train loss:0.0071482247542299345
51%|███████████████████████████████████████ | 6095/12000 [23:24<22:12, 4.43it/s]
train loss:0.01304598163450946
51%|███████████████████████████████████████ | 6096/12000 [23:24<22:20, 4.41it/s]
train loss:0.005118663879619408
51%|███████████████████████████████████████ | 6097/12000 [23:24<22:22, 4.40it/s]
train loss:0.015846994461852563
51%|███████████████████████████████████████▏ | 6098/12000 [23:24<22:23, 4.39it/s]
train loss:0.002094812974678636
51%|███████████████████████████████████████▏ | 6100/12000 [23:25<21:42, 4.53it/s]
train loss:0.004879589562841641 train loss:0.005636041231937025
51%|███████████████████████████████████████▏ | 6101/12000 [23:25<22:21, 4.40it/s]
train loss:0.0018579320856638602
51%|███████████████████████████████████████▏ | 6102/12000 [23:25<22:22, 4.39it/s]
train loss:0.00201817392699301
51%|███████████████████████████████████████▏ | 6103/12000 [23:25<22:29, 4.37it/s]
train loss:0.000389638583306703
51%|███████████████████████████████████████▏ | 6104/12000 [23:26<22:12, 4.42it/s]
train loss:0.0016892945111001336
51%|███████████████████████████████████████▏ | 6105/12000 [23:26<22:20, 4.40it/s]
train loss:0.0069627301389145165
51%|███████████████████████████████████████▏ | 6106/12000 [23:26<22:20, 4.40it/s]
train loss:0.009043049088517031
51%|███████████████████████████████████████▏ | 6107/12000 [23:26<22:23, 4.39it/s]
train loss:0.0025101506145418268
51%|███████████████████████████████████████▏ | 6108/12000 [23:27<22:18, 4.40it/s]
train loss:0.0038838461779507946
51%|███████████████████████████████████████▏ | 6109/12000 [23:27<22:19, 4.40it/s]
train loss:0.011756011023083737
51%|███████████████████████████████████████▏ | 6110/12000 [23:27<22:25, 4.38it/s]
train loss:0.010653755809470382
51%|███████████████████████████████████████▏ | 6111/12000 [23:27<22:30, 4.36it/s]
train loss:0.006357651659651975
51%|███████████████████████████████████████▏ | 6112/12000 [23:28<22:35, 4.34it/s]
train loss:0.026603329822865812
51%|███████████████████████████████████████▏ | 6113/12000 [23:28<23:50, 4.11it/s]
train loss:0.0031226699818124757
51%|███████████████████████████████████████▏ | 6114/12000 [23:28<25:02, 3.92it/s]
train loss:0.014182699318198256
51%|███████████████████████████████████████▏ | 6115/12000 [23:28<25:50, 3.80it/s]
train loss:0.025190160528085644
51%|███████████████████████████████████████▏ | 6116/12000 [23:29<24:46, 3.96it/s]
train loss:0.0006733032013898326
51%|███████████████████████████████████████▎ | 6117/12000 [23:29<23:56, 4.09it/s]
train loss:0.00018122225224501164
51%|███████████████████████████████████████▎ | 6118/12000 [23:29<23:28, 4.18it/s]
train loss:0.0018904981840990815
51%|███████████████████████████████████████▎ | 6119/12000 [23:29<23:06, 4.24it/s]
train loss:0.006572304825623753
51%|███████████████████████████████████████▎ | 6120/12000 [23:30<22:58, 4.27it/s]
train loss:0.01042541579860233
51%|███████████████████████████████████████▎ | 6121/12000 [23:30<22:29, 4.36it/s]
train loss:0.001910556899980785
51%|███████████████████████████████████████▎ | 6122/12000 [23:30<22:25, 4.37it/s]
train loss:0.0019686421669074003
51%|███████████████████████████████████████▎ | 6123/12000 [23:30<22:22, 4.38it/s]
train loss:0.002490658490391382
51%|███████████████████████████████████████▎ | 6124/12000 [23:30<23:54, 4.10it/s]
train loss:0.002748049989575602
51%|███████████████████████████████████████▎ | 6125/12000 [23:31<23:15, 4.21it/s]
train loss:0.0042415265105605685
51%|███████████████████████████████████████▎ | 6126/12000 [23:31<22:57, 4.26it/s]
train loss:0.01182023583159792
51%|███████████████████████████████████████▎ | 6127/12000 [23:31<22:45, 4.30it/s]
train loss:0.0014538713311877413
51%|███████████████████████████████████████▎ | 6128/12000 [23:31<22:36, 4.33it/s]
train loss:0.003550817924560059
51%|███████████████████████████████████████▎ | 6129/12000 [23:32<22:32, 4.34it/s]
train loss:0.007151571131347496
51%|███████████████████████████████████████▎ | 6130/12000 [23:32<22:23, 4.37it/s]
train loss:0.005945047047857963
51%|███████████████████████████████████████▎ | 6131/12000 [23:32<22:26, 4.36it/s]
train loss:0.002607775980503691
51%|███████████████████████████████████████▎ | 6132/12000 [23:32<22:25, 4.36it/s]
train loss:0.0011186805456328375
51%|███████████████████████████████████████▎ | 6133/12000 [23:33<22:43, 4.30it/s]
train loss:0.0009037952202834443
51%|███████████████████████████████████████▎ | 6134/12000 [23:33<22:23, 4.37it/s]
train loss:0.003180616025888737
51%|███████████████████████████████████████▎ | 6135/12000 [23:33<22:19, 4.38it/s]
train loss:0.01921364810512263
51%|███████████████████████████████████████▎ | 6136/12000 [23:33<22:13, 4.40it/s]
train loss:0.002800159892390518
51%|███████████████████████████████████████▍ | 6137/12000 [23:33<22:10, 4.41it/s]
train loss:0.015284071380813407
51%|███████████████████████████████████████▍ | 6138/12000 [23:34<23:19, 4.19it/s]
train loss:0.0012805577758389364
51%|███████████████████████████████████████▍ | 6139/12000 [23:34<23:19, 4.19it/s]
train loss:0.006358922381055159
51%|███████████████████████████████████████▍ | 6140/12000 [23:34<23:06, 4.23it/s]
train loss:0.0011847291018039488
51%|███████████████████████████████████████▍ | 6141/12000 [23:34<22:57, 4.25it/s]
train loss:0.00197327317033493
51%|███████████████████████████████████████▍ | 6142/12000 [23:35<22:43, 4.30it/s]
train loss:0.019651541208015603
51%|███████████████████████████████████████▍ | 6143/12000 [23:35<22:33, 4.33it/s]
train loss:0.008707305432918444
51%|███████████████████████████████████████▍ | 6144/12000 [23:35<22:33, 4.33it/s]
train loss:0.12059912578251553
51%|███████████████████████████████████████▍ | 6145/12000 [23:35<22:40, 4.30it/s]
train loss:0.005840025916295657
51%|███████████████████████████████████████▍ | 6146/12000 [23:36<23:35, 4.14it/s]
train loss:0.008072174257082192
51%|███████████████████████████████████████▍ | 6147/12000 [23:36<23:01, 4.24it/s]
train loss:0.0062311720430387975
51%|███████████████████████████████████████▍ | 6148/12000 [23:36<22:53, 4.26it/s]
train loss:0.0016921701389389018
51%|███████████████████████████████████████▍ | 6149/12000 [23:36<24:05, 4.05it/s]
train loss:0.0027993194520833666
51%|███████████████████████████████████████▍ | 6150/12000 [23:37<24:53, 3.92it/s]
train loss:0.0027471434876427414
51%|███████████████████████████████████████▍ | 6151/12000 [23:37<25:11, 3.87it/s]
train loss:0.0014287481725471954
51%|███████████████████████████████████████▍ | 6152/12000 [23:37<25:36, 3.81it/s]
train loss:0.0011606955743882657
51%|███████████████████████████████████████▍ | 6153/12000 [23:37<25:57, 3.76it/s]
train loss:0.07152092965559721
51%|███████████████████████████████████████▍ | 6154/12000 [23:38<25:00, 3.90it/s]
train loss:0.001986141977659552
51%|███████████████████████████████████████▍ | 6155/12000 [23:38<24:15, 4.02it/s]
train loss:0.003794047316809859
51%|███████████████████████████████████████▌ | 6156/12000 [23:38<23:43, 4.11it/s]
train loss:0.008165871745236355
51%|███████████████████████████████████████▌ | 6157/12000 [23:38<23:47, 4.09it/s]
train loss:0.002615488942514068
51%|███████████████████████████████████████▌ | 6158/12000 [23:39<23:35, 4.13it/s]
train loss:0.002687034111678602
51%|███████████████████████████████████████▌ | 6159/12000 [23:39<23:41, 4.11it/s]
train loss:0.001230303843173275
51%|███████████████████████████████████████▌ | 6160/12000 [23:39<23:25, 4.16it/s]
train loss:0.004022053222511447
51%|███████████████████████████████████████▌ | 6161/12000 [23:39<23:11, 4.20it/s]
train loss:0.005181972582531224
51%|███████████████████████████████████████▌ | 6162/12000 [23:40<23:06, 4.21it/s]
train loss:0.0004217093138328701
51%|███████████████████████████████████████▌ | 6163/12000 [23:40<22:45, 4.28it/s]
train loss:0.009015565155020562
51%|███████████████████████████████████████▌ | 6164/12000 [23:40<23:13, 4.19it/s]
train loss:0.006826827579169764
51%|███████████████████████████████████████▌ | 6165/12000 [23:40<23:03, 4.22it/s]
train loss:0.009763574619441296
51%|███████████████████████████████████████▌ | 6166/12000 [23:40<23:58, 4.06it/s]
train loss:0.001590649446910565
51%|███████████████████████████████████████▌ | 6167/12000 [23:41<23:47, 4.09it/s]
train loss:0.01571902672208637
51%|███████████████████████████████████████▌ | 6168/12000 [23:41<23:27, 4.14it/s]
train loss:0.0038367198223646336
51%|███████████████████████████████████████▌ | 6169/12000 [23:41<23:09, 4.20it/s]
train loss:0.020818984971105934
51%|███████████████████████████████████████▌ | 6170/12000 [23:41<22:58, 4.23it/s]
train loss:0.002567977659203817
51%|███████████████████████████████████████▌ | 6171/12000 [23:42<22:35, 4.30it/s]
train loss:0.00034838021959077863
51%|███████████████████████████████████████▌ | 6172/12000 [23:42<22:31, 4.31it/s]
train loss:0.004553918824511012
51%|███████████████████████████████████████▌ | 6173/12000 [23:42<22:25, 4.33it/s]
train loss:0.0023330553229375718
51%|███████████████████████████████████████▌ | 6174/12000 [23:42<22:17, 4.36it/s]
train loss:0.003829640182391886
51%|███████████████████████████████████████▌ | 6175/12000 [23:43<22:15, 4.36it/s]
train loss:0.0012542095162110334
51%|███████████████████████████████████████▋ | 6176/12000 [23:43<21:54, 4.43it/s]
train loss:0.043506711913490786
51%|███████████████████████████████████████▋ | 6177/12000 [23:43<21:57, 4.42it/s]
train loss:0.003782889002689519
51%|███████████████████████████████████████▋ | 6178/12000 [23:43<21:57, 4.42it/s]
train loss:0.011851332474339981
51%|███████████████████████████████████████▋ | 6179/12000 [23:43<21:59, 4.41it/s]
train loss:0.0007016918445748219
52%|███████████████████████████████████████▋ | 6180/12000 [23:44<21:50, 4.44it/s]
train loss:0.0018506146327964812
52%|███████████████████████████████████████▋ | 6181/12000 [23:44<23:29, 4.13it/s]
train loss:0.0009742870409122024
52%|███████████████████████████████████████▋ | 6182/12000 [23:44<23:07, 4.19it/s]
train loss:0.013942910199473312
52%|███████████████████████████████████████▋ | 6183/12000 [23:44<22:51, 4.24it/s]
train loss:0.009017343356008893
52%|███████████████████████████████████████▋ | 6184/12000 [23:45<22:20, 4.34it/s]
train loss:0.017056947609982605
52%|███████████████████████████████████████▋ | 6185/12000 [23:45<22:13, 4.36it/s]
train loss:0.015089989446372368
52%|███████████████████████████████████████▋ | 6186/12000 [23:45<22:08, 4.38it/s]
train loss:0.0017071878552290926
52%|███████████████████████████████████████▋ | 6187/12000 [23:45<22:08, 4.38it/s]
train loss:0.009480519182361237
52%|███████████████████████████████████████▋ | 6188/12000 [23:46<22:09, 4.37it/s]
train loss:0.03297788916536999
52%|███████████████████████████████████████▋ | 6189/12000 [23:46<21:51, 4.43it/s]
train loss:0.0013007312160509424
52%|███████████████████████████████████████▋ | 6190/12000 [23:46<21:59, 4.40it/s]
train loss:0.01677614960560448
52%|███████████████████████████████████████▋ | 6191/12000 [23:46<22:08, 4.37it/s]
train loss:0.005606058075707855
52%|███████████████████████████████████████▋ | 6192/12000 [23:46<22:08, 4.37it/s]
train loss:0.0024585512181968237
52%|███████████████████████████████████████▋ | 6193/12000 [23:47<21:54, 4.42it/s]
train loss:0.0025096459888056255
52%|███████████████████████████████████████▋ | 6194/12000 [23:47<21:55, 4.41it/s]
train loss:0.005475265131313767
52%|███████████████████████████████████████▊ | 6195/12000 [23:47<21:56, 4.41it/s]
train loss:0.002381660040233475
52%|███████████████████████████████████████▊ | 6196/12000 [23:47<21:56, 4.41it/s]
train loss:0.004776993552580714
52%|███████████████████████████████████████▊ | 6197/12000 [23:48<21:52, 4.42it/s]
train loss:0.018350590366086425
52%|███████████████████████████████████████▊ | 6198/12000 [23:48<21:57, 4.40it/s]
train loss:0.004794512810087524
52%|███████████████████████████████████████▊ | 6199/12000 [23:48<21:58, 4.40it/s]
train loss:0.009456625738653232
52%|███████████████████████████████████████▊ | 6200/12000 [23:48<22:00, 4.39it/s]
train loss:0.008330366740812053
52%|███████████████████████████████████████▊ | 6201/12000 [23:49<22:08, 4.37it/s]
train loss:0.051692593537466955
52%|███████████████████████████████████████▊ | 6202/12000 [23:49<21:52, 4.42it/s]
train loss:0.015485472124404633
52%|███████████████████████████████████████▊ | 6203/12000 [23:49<21:54, 4.41it/s]
train loss:0.0038955706393527527
52%|███████████████████████████████████████▊ | 6204/12000 [23:49<21:55, 4.41it/s]
train loss:0.001074673047276812
52%|███████████████████████████████████████▊ | 6205/12000 [23:49<21:58, 4.40it/s]
train loss:0.0013892016013202786
52%|███████████████████████████████████████▊ | 6206/12000 [23:50<21:49, 4.43it/s]
train loss:0.022225858323087305
52%|███████████████████████████████████████▊ | 6207/12000 [23:50<21:51, 4.42it/s]
train loss:0.00505188875229757
52%|███████████████████████████████████████▊ | 6208/12000 [23:50<21:53, 4.41it/s]
train loss:0.012315928680110999
52%|███████████████████████████████████████▊ | 6209/12000 [23:50<21:53, 4.41it/s]
train loss:0.006651255351247967
52%|███████████████████████████████████████▊ | 6210/12000 [23:51<21:58, 4.39it/s]
train loss:0.004183928116698885
52%|███████████████████████████████████████▊ | 6211/12000 [23:51<21:43, 4.44it/s]
train loss:0.004285650365238797
52%|███████████████████████████████████████▊ | 6212/12000 [23:51<21:52, 4.41it/s]
train loss:0.006192225315301513
52%|███████████████████████████████████████▊ | 6213/12000 [23:51<21:58, 4.39it/s]
train loss:0.007803553519171035
52%|███████████████████████████████████████▊ | 6214/12000 [23:51<22:00, 4.38it/s]
train loss:0.019123984717425473
52%|███████████████████████████████████████▉ | 6215/12000 [23:52<21:46, 4.43it/s]
train loss:0.005756152103309936
52%|███████████████████████████████████████▉ | 6216/12000 [23:52<21:49, 4.42it/s]
train loss:0.01798816785681437
52%|███████████████████████████████████████▉ | 6217/12000 [23:52<21:56, 4.39it/s]
train loss:0.017834900506264555
52%|███████████████████████████████████████▉ | 6218/12000 [23:52<21:56, 4.39it/s]
train loss:0.0045063602490200685
52%|███████████████████████████████████████▉ | 6219/12000 [23:53<21:50, 4.41it/s]
train loss:0.0033415244729380882
52%|███████████████████████████████████████▉ | 6220/12000 [23:53<21:46, 4.42it/s]
train loss:0.002628641454642295
52%|███████████████████████████████████████▉ | 6221/12000 [23:53<21:48, 4.42it/s]
train loss:0.00992743831736347
52%|███████████████████████████████████████▉ | 6222/12000 [23:53<21:51, 4.40it/s]
train loss:0.004271119076251906
52%|███████████████████████████████████████▉ | 6223/12000 [23:54<21:52, 4.40it/s]
train loss:0.005899709054003449
52%|███████████████████████████████████████▉ | 6224/12000 [23:54<21:42, 4.44it/s]
train loss:0.002958894687875286
52%|███████████████████████████████████████▉ | 6225/12000 [23:54<21:50, 4.41it/s]
train loss:0.0035617584899902367
52%|███████████████████████████████████████▉ | 6226/12000 [23:54<21:51, 4.40it/s]
train loss:0.012687358610841817
52%|███████████████████████████████████████▉ | 6227/12000 [23:54<21:51, 4.40it/s]
train loss:0.00998039280391936
52%|███████████████████████████████████████▉ | 6228/12000 [23:55<21:50, 4.40it/s]
train loss:0.008193643427654239
52%|███████████████████████████████████████▉ | 6229/12000 [23:55<21:50, 4.40it/s]
train loss:0.003285402828115498
52%|███████████████████████████████████████▉ | 6230/12000 [23:55<21:57, 4.38it/s]
train loss:0.001142061889018863
52%|███████████████████████████████████████▉ | 6231/12000 [23:55<21:58, 4.38it/s]
train loss:0.0053774675608253605
52%|███████████████████████████████████████▉ | 6232/12000 [23:56<22:03, 4.36it/s]
train loss:0.009922349591627253
52%|███████████████████████████████████████▉ | 6233/12000 [23:56<21:43, 4.43it/s]
train loss:0.029336335724504288
52%|████████████████████████████████████████ | 6234/12000 [23:56<21:40, 4.43it/s]
train loss:0.012768862970026378
52%|████████████████████████████████████████ | 6235/12000 [23:56<21:41, 4.43it/s]
train loss:0.007345233576921669
52%|████████████████████████████████████████ | 6236/12000 [23:56<21:52, 4.39it/s]
train loss:0.005398464446856059
52%|████████████████████████████████████████ | 6237/12000 [23:57<21:47, 4.41it/s]
train loss:0.011738414753943533
52%|████████████████████████████████████████ | 6238/12000 [23:57<21:59, 4.37it/s]
train loss:0.00222264022672098
52%|████████████████████████████████████████ | 6239/12000 [23:57<22:03, 4.35it/s]
train loss:0.005015149795323894
52%|████████████████████████████████████████ | 6240/12000 [23:57<22:01, 4.36it/s]
train loss:0.004046991336731119
52%|████████████████████████████████████████ | 6241/12000 [23:58<21:57, 4.37it/s]
train loss:0.014061976205898656
52%|████████████████████████████████████████ | 6242/12000 [23:58<21:56, 4.37it/s]
train loss:0.0020520272157369076
52%|████████████████████████████████████████ | 6243/12000 [23:58<21:59, 4.36it/s]
train loss:0.013250050957763954
52%|████████████████████████████████████████ | 6244/12000 [23:58<22:13, 4.32it/s]
train loss:0.001104721437122158
52%|████████████████████████████████████████ | 6245/12000 [23:59<22:27, 4.27it/s]
train loss:0.003816738413202101
52%|████████████████████████████████████████ | 6246/12000 [23:59<22:20, 4.29it/s]
train loss:0.017090369924981984
52%|████████████████████████████████████████ | 6247/12000 [23:59<22:48, 4.20it/s]
train loss:0.003629752908887529
52%|████████████████████████████████████████ | 6248/12000 [23:59<22:36, 4.24it/s]
train loss:0.00426557721491534
52%|████████████████████████████████████████ | 6249/12000 [23:59<22:32, 4.25it/s]
train loss:0.0021356229556602534
52%|████████████████████████████████████████ | 6250/12000 [24:00<22:48, 4.20it/s]
train loss:0.0009965734495805383
52%|████████████████████████████████████████ | 6251/12000 [24:00<22:45, 4.21it/s]
train loss:0.0017910697701113434
52%|████████████████████████████████████████ | 6252/12000 [24:00<23:12, 4.13it/s]
train loss:0.0010489663063817816
52%|████████████████████████████████████████ | 6253/12000 [24:00<22:46, 4.21it/s]
train loss:0.005305550407129953
52%|████████████████████████████████████████▏ | 6254/12000 [24:01<22:14, 4.30it/s]
train loss:0.0022551346259222626
52%|████████████████████████████████████████▏ | 6255/12000 [24:01<22:07, 4.33it/s]
train loss:0.0030197733705499474
52%|████████████████████████████████████████▏ | 6256/12000 [24:01<22:01, 4.35it/s]
train loss:0.0039049859500692365
52%|████████████████████████████████████████▏ | 6257/12000 [24:01<21:56, 4.36it/s]
train loss:0.004502162523455367
52%|████████████████████████████████████████▏ | 6258/12000 [24:02<21:51, 4.38it/s]
train loss:0.0019483242618508517
52%|████████████████████████████████████████▏ | 6259/12000 [24:02<21:43, 4.41it/s]
train loss:0.0067165038148212855
52%|████████████████████████████████████████▏ | 6260/12000 [24:02<21:48, 4.39it/s]
train loss:0.0066934861603654035
52%|████████████████████████████████████████▏ | 6261/12000 [24:02<21:49, 4.38it/s]
train loss:0.0019237943711805435
52%|████████████████████████████████████████▏ | 6262/12000 [24:02<21:51, 4.37it/s]
train loss:0.0024790527696042244
52%|████████████████████████████████████████▏ | 6263/12000 [24:03<21:35, 4.43it/s]
train loss:0.009206607984874689
52%|████████████████████████████████████████▏ | 6264/12000 [24:03<21:39, 4.41it/s]
train loss:0.0024228155232702752
52%|████████████████████████████████████████▏ | 6265/12000 [24:03<21:41, 4.41it/s]
train loss:0.0015545613714463744
52%|████████████████████████████████████████▏ | 6266/12000 [24:03<23:17, 4.10it/s]
train loss:0.000450212693107097
52%|████████████████████████████████████████▏ | 6267/12000 [24:04<24:18, 3.93it/s]
train loss:0.0037130314008613457
52%|████████████████████████████████████████▏ | 6268/12000 [24:04<24:49, 3.85it/s]
train loss:0.003387423812432666
52%|████████████████████████████████████████▏ | 6269/12000 [24:04<24:18, 3.93it/s]
train loss:0.0005338030426861616
52%|████████████████████████████████████████▏ | 6270/12000 [24:04<23:37, 4.04it/s]
train loss:0.005093834143658552
52%|████████████████████████████████████████▏ | 6271/12000 [24:05<23:04, 4.14it/s]
train loss:0.002315351263365434
52%|████████████████████████████████████████▏ | 6272/12000 [24:05<22:49, 4.18it/s]
train loss:0.011571998128267877
52%|████████████████████████████████████████▎ | 6273/12000 [24:05<22:43, 4.20it/s]
train loss:0.002704124184783442
52%|████████████████████████████████████████▎ | 6274/12000 [24:05<22:32, 4.23it/s]
train loss:0.0029331554129881834
52%|████████████████████████████████████████▎ | 6275/12000 [24:06<22:20, 4.27it/s]
train loss:0.0007967799502670538
52%|████████████████████████████████████████▎ | 6276/12000 [24:06<22:12, 4.30it/s]
train loss:0.001186397389602841
52%|████████████████████████████████████████▎ | 6277/12000 [24:06<22:14, 4.29it/s]
train loss:0.0006327786637019539
52%|████████████████████████████████████████▎ | 6278/12000 [24:06<22:12, 4.29it/s]
train loss:0.0018992680144240828
52%|████████████████████████████████████████▎ | 6279/12000 [24:07<22:15, 4.29it/s]
train loss:0.005239525706176877
52%|████████████████████████████████████████▎ | 6280/12000 [24:07<21:53, 4.35it/s]
train loss:0.0004469846690672909
52%|████████████████████████████████████████▎ | 6281/12000 [24:07<21:50, 4.36it/s]
train loss:0.005800849166187207
52%|████████████████████████████████████████▎ | 6282/12000 [24:07<21:47, 4.37it/s]
train loss:0.002495757059415417
52%|████████████████████████████████████████▎ | 6283/12000 [24:07<21:46, 4.38it/s]
train loss:0.004535329401518026
52%|████████████████████████████████████████▎ | 6284/12000 [24:08<21:56, 4.34it/s]
train loss:0.004357566310527554
52%|████████████████████████████████████████▎ | 6285/12000 [24:08<21:54, 4.35it/s]
train loss:0.0008848893635016286
52%|████████████████████████████████████████▎ | 6286/12000 [24:08<22:26, 4.24it/s]
train loss:0.0003818319363080578
52%|████████████████████████████████████████▎ | 6287/12000 [24:08<22:11, 4.29it/s]
train loss:0.0006595743141601261
52%|████████████████████████████████████████▎ | 6288/12000 [24:09<21:55, 4.34it/s]
train loss:0.0008031760048364151
52%|████████████████████████████████████████▎ | 6289/12000 [24:09<21:47, 4.37it/s]
train loss:0.0015514784160009943
52%|████████████████████████████████████████▎ | 6290/12000 [24:09<21:44, 4.38it/s]
train loss:0.00294341267392805
52%|████████████████████████████████████████▎ | 6291/12000 [24:09<21:42, 4.38it/s]
train loss:0.004368345776441715
52%|████████████████████████████████████████▎ | 6292/12000 [24:10<21:41, 4.39it/s]
train loss:0.002324546469191992
52%|████████████████████████████████████████▍ | 6293/12000 [24:10<21:31, 4.42it/s]
train loss:0.0013020790773733233
52%|████████████████████████████████████████▍ | 6294/12000 [24:10<21:35, 4.41it/s]
train loss:0.0014814893252352746
52%|████████████████████████████████████████▍ | 6295/12000 [24:10<21:35, 4.40it/s]
train loss:0.00660029954417275
52%|████████████████████████████████████████▍ | 6296/12000 [24:10<21:34, 4.41it/s]
train loss:0.0006230265844420964
52%|████████████████████████████████████████▍ | 6297/12000 [24:11<21:24, 4.44it/s]
train loss:0.004318795527316952
52%|████████████████████████████████████████▍ | 6298/12000 [24:11<21:28, 4.43it/s]
train loss:0.0013062732816710788
52%|████████████████████████████████████████▍ | 6299/12000 [24:11<21:30, 4.42it/s]
train loss:0.0031794193405243597
52%|████████████████████████████████████████▍ | 6300/12000 [24:11<21:32, 4.41it/s]
train loss:0.004006362504533477
53%|████████████████████████████████████████▍ | 6301/12000 [24:12<21:31, 4.41it/s]
train loss:0.002083863022840286
53%|████████████████████████████████████████▍ | 6302/12000 [24:12<21:15, 4.47it/s]
train loss:0.0010977603929965489
53%|████████████████████████████████████████▍ | 6303/12000 [24:12<21:23, 4.44it/s]
train loss:0.01148491811312986
53%|████████████████████████████████████████▍ | 6304/12000 [24:12<21:26, 4.43it/s]
train loss:0.00035852036862193016
53%|████████████████████████████████████████▍ | 6305/12000 [24:12<21:30, 4.41it/s]
train loss:0.002726419959688788
53%|████████████████████████████████████████▍ | 6306/12000 [24:13<21:22, 4.44it/s]
train loss:0.002977211312689834
53%|████████████████████████████████████████▍ | 6307/12000 [24:13<21:27, 4.42it/s]
train loss:0.012529482456005407
53%|████████████████████████████████████████▍ | 6308/12000 [24:13<22:41, 4.18it/s]
train loss:0.0018284988090328616
53%|████████████████████████████████████████▍ | 6309/12000 [24:13<22:37, 4.19it/s]
train loss:0.0017622460910807017
53%|████████████████████████████████████████▍ | 6310/12000 [24:14<22:04, 4.30it/s]
train loss:0.0017814028885741718
53%|████████████████████████████████████████▍ | 6311/12000 [24:14<22:00, 4.31it/s]
train loss:0.013791933510649812
53%|████████████████████████████████████████▌ | 6312/12000 [24:14<21:56, 4.32it/s]
train loss:0.0015194852064243807
53%|████████████████████████████████████████▌ | 6313/12000 [24:14<21:53, 4.33it/s]
train loss:0.0036103618959549616
53%|████████████████████████████████████████▌ | 6314/12000 [24:15<21:51, 4.34it/s]
train loss:0.0006500547537167151
53%|████████████████████████████████████████▌ | 6315/12000 [24:15<21:30, 4.41it/s]
train loss:0.0040238257615851794
53%|████████████████████████████████████████▌ | 6316/12000 [24:15<21:33, 4.39it/s]
train loss:0.006943415352647674
53%|████████████████████████████████████████▌ | 6317/12000 [24:15<21:33, 4.39it/s]
train loss:0.02057189353600476
53%|████████████████████████████████████████▌ | 6318/12000 [24:15<21:33, 4.39it/s]
train loss:0.015021267760907958
53%|████████████████████████████████████████▌ | 6319/12000 [24:16<21:19, 4.44it/s]
train loss:0.008443053644878861
53%|████████████████████████████████████████▌ | 6320/12000 [24:16<21:24, 4.42it/s]
train loss:0.008998691960582561
53%|████████████████████████████████████████▌ | 6321/12000 [24:16<21:33, 4.39it/s]
train loss:0.0019124614492372122
53%|████████████████████████████████████████▌ | 6322/12000 [24:16<21:38, 4.37it/s]
train loss:0.0008794475973136756
53%|████████████████████████████████████████▌ | 6323/12000 [24:17<21:35, 4.38it/s]
train loss:0.013380703466291322
53%|████████████████████████████████████████▌ | 6324/12000 [24:17<21:32, 4.39it/s]
train loss:0.0017336822447277455
53%|████████████████████████████████████████▌ | 6325/12000 [24:17<21:33, 4.39it/s]
train loss:0.005651174570639081
53%|████████████████████████████████████████▌ | 6326/12000 [24:17<21:33, 4.39it/s]
train loss:0.0015473515744538124
53%|████████████████████████████████████████▌ | 6327/12000 [24:18<21:34, 4.38it/s]
train loss:0.004239630966065217
53%|████████████████████████████████████████▌ | 6328/12000 [24:18<21:19, 4.43it/s]
train loss:0.002994799013959178
53%|████████████████████████████████████████▌ | 6329/12000 [24:18<21:26, 4.41it/s]
train loss:0.014947190973825636
53%|████████████████████████████████████████▌ | 6330/12000 [24:18<21:30, 4.39it/s]
train loss:0.008635400641742157
53%|████████████████████████████████████████▌ | 6331/12000 [24:18<22:55, 4.12it/s]
train loss:0.005457092962308797
53%|████████████████████████████████████████▋ | 6332/12000 [24:19<23:38, 4.00it/s]
train loss:0.005410685537901459
53%|████████████████████████████████████████▋ | 6333/12000 [24:19<23:23, 4.04it/s]
train loss:0.0004392208269584569
53%|████████████████████████████████████████▋ | 6334/12000 [24:19<22:48, 4.14it/s]
train loss:0.002682193921102848
53%|████████████████████████████████████████▋ | 6335/12000 [24:19<22:25, 4.21it/s]
train loss:0.01624407409693428
53%|████████████████████████████████████████▋ | 6336/12000 [24:20<21:56, 4.30it/s]
train loss:0.0019985323675528886
53%|████████████████████████████████████████▋ | 6337/12000 [24:20<21:52, 4.31it/s]
train loss:0.011201533153696892
53%|████████████████████████████████████████▋ | 6338/12000 [24:20<21:48, 4.33it/s]
train loss:0.0003147104406954839
53%|████████████████████████████████████████▋ | 6339/12000 [24:20<21:45, 4.34it/s]
train loss:0.000812338157221202
53%|████████████████████████████████████████▋ | 6340/12000 [24:21<21:39, 4.35it/s]
train loss:0.003460387445370084
53%|████████████████████████████████████████▋ | 6341/12000 [24:21<21:17, 4.43it/s]
train loss:0.001530667699734692
53%|████████████████████████████████████████▋ | 6342/12000 [24:21<21:21, 4.41it/s]
train loss:0.006313970513403049
53%|████████████████████████████████████████▋ | 6343/12000 [24:21<21:23, 4.41it/s]
train loss:0.0028509166758047075
53%|████████████████████████████████████████▋ | 6344/12000 [24:21<21:23, 4.41it/s]
train loss:0.004286116299361035
53%|████████████████████████████████████████▋ | 6345/12000 [24:22<21:11, 4.45it/s]
train loss:0.0016287132444993558
53%|████████████████████████████████████████▋ | 6346/12000 [24:22<21:15, 4.43it/s]
train loss:0.007169487168848501
53%|████████████████████████████████████████▋ | 6347/12000 [24:22<21:16, 4.43it/s]
train loss:0.0035213454851750503
53%|████████████████████████████████████████▋ | 6348/12000 [24:22<21:22, 4.41it/s]
train loss:0.003639397766841513
53%|████████████████████████████████████████▋ | 6349/12000 [24:23<21:23, 4.40it/s]
train loss:0.002183155337665641
53%|████████████████████████████████████████▋ | 6350/12000 [24:23<21:20, 4.41it/s]
train loss:0.0041172807216056494
53%|████████████████████████████████████████▊ | 6351/12000 [24:23<21:21, 4.41it/s]
train loss:0.002172230548960293
53%|████████████████████████████████████████▊ | 6352/12000 [24:23<21:21, 4.41it/s]
train loss:0.0019244432721963662
53%|████████████████████████████████████████▊ | 6353/12000 [24:24<21:27, 4.38it/s]
train loss:0.0005644257933193674
53%|████████████████████████████████████████▊ | 6354/12000 [24:24<21:11, 4.44it/s]
train loss:0.013855814212130118
53%|████████████████████████████████████████▊ | 6355/12000 [24:24<22:01, 4.27it/s]
train loss:0.005215517975784656
53%|████████████████████████████████████████▊ | 6356/12000 [24:24<22:27, 4.19it/s]
train loss:0.001987998573191629
53%|████████████████████████████████████████▊ | 6357/12000 [24:24<22:09, 4.24it/s]
train loss:0.006765778979206427
53%|████████████████████████████████████████▊ | 6358/12000 [24:25<21:50, 4.31it/s]
train loss:0.0032049441853353954
53%|████████████████████████████████████████▊ | 6359/12000 [24:25<21:44, 4.32it/s]
train loss:0.0046976997246933735
53%|████████████████████████████████████████▊ | 6360/12000 [24:25<23:11, 4.05it/s]
train loss:0.0015810478183448699
53%|████████████████████████████████████████▊ | 6361/12000 [24:25<24:14, 3.88it/s]
train loss:0.01218900695649701
53%|████████████████████████████████████████▊ | 6362/12000 [24:26<24:40, 3.81it/s]
train loss:0.0018139950371616998
53%|████████████████████████████████████████▊ | 6363/12000 [24:26<25:08, 3.74it/s]
train loss:0.0012705843192532637
53%|████████████████████████████████████████▊ | 6364/12000 [24:26<24:33, 3.83it/s]
train loss:0.0003985939824921944
53%|████████████████████████████████████████▊ | 6365/12000 [24:27<23:35, 3.98it/s]
train loss:0.00394114080404008
53%|████████████████████████████████████████▊ | 6366/12000 [24:27<22:55, 4.10it/s]
train loss:0.005514161118225273
53%|████████████████████████████████████████▊ | 6367/12000 [24:27<22:31, 4.17it/s]
train loss:0.0006169509635797006
53%|████████████████████████████████████████▊ | 6368/12000 [24:27<22:13, 4.22it/s]
train loss:0.003243351599364537
53%|████████████████████████████████████████▊ | 6369/12000 [24:27<22:07, 4.24it/s]
train loss:0.00017657058003345386
53%|████████████████████████████████████████▊ | 6370/12000 [24:28<21:46, 4.31it/s]
train loss:0.0017567957661446866
53%|████████████████████████████████████████▉ | 6371/12000 [24:28<21:43, 4.32it/s]
train loss:0.006374012065597489
53%|████████████████████████████████████████▉ | 6372/12000 [24:28<21:39, 4.33it/s]
train loss:0.002564036172357353
53%|████████████████████████████████████████▉ | 6373/12000 [24:28<21:33, 4.35it/s]
train loss:0.000860107992099269
53%|████████████████████████████████████████▉ | 6374/12000 [24:29<21:58, 4.27it/s]
train loss:0.001076520474355314
53%|████████████████████████████████████████▉ | 6375/12000 [24:29<21:46, 4.30it/s]
train loss:5.4553758565936164e-05
53%|████████████████████████████████████████▉ | 6376/12000 [24:29<21:53, 4.28it/s]
train loss:0.001919521089168762
53%|████████████████████████████████████████▉ | 6377/12000 [24:29<21:57, 4.27it/s]
train loss:0.00046137264582456054
53%|████████████████████████████████████████▉ | 6378/12000 [24:30<23:03, 4.06it/s]
train loss:0.049166604843533884
53%|████████████████████████████████████████▉ | 6379/12000 [24:30<23:30, 3.98it/s]
train loss:0.0008463955884698569
53%|████████████████████████████████████████▉ | 6380/12000 [24:30<24:15, 3.86it/s]
train loss:0.008196786214036684
53%|████████████████████████████████████████▉ | 6381/12000 [24:30<23:25, 4.00it/s]
train loss:0.00032557569171535604
53%|████████████████████████████████████████▉ | 6382/12000 [24:31<23:16, 4.02it/s]
train loss:0.0011421953026920764
53%|████████████████████████████████████████▉ | 6383/12000 [24:31<22:26, 4.17it/s]
train loss:0.004988058775351645
53%|████████████████████████████████████████▉ | 6384/12000 [24:31<22:06, 4.23it/s]
train loss:0.0023920032452022667
53%|████████████████████████████████████████▉ | 6385/12000 [24:31<21:51, 4.28it/s]
train loss:0.001407113957281377
53%|████████████████████████████████████████▉ | 6386/12000 [24:31<21:40, 4.32it/s]
train loss:0.0024798886067542453
53%|████████████████████████████████████████▉ | 6387/12000 [24:32<21:20, 4.38it/s]
train loss:0.00126609990402053
53%|████████████████████████████████████████▉ | 6388/12000 [24:32<21:19, 4.39it/s]
train loss:0.0012035609299622958
53%|████████████████████████████████████████▉ | 6389/12000 [24:32<21:17, 4.39it/s]
train loss:0.007816180270348107
53%|█████████████████████████████████████████ | 6390/12000 [24:32<21:58, 4.25it/s]
train loss:0.002975091394249944
53%|█████████████████████████████████████████ | 6391/12000 [24:33<22:13, 4.21it/s]
train loss:0.0025429145402268293
53%|█████████████████████████████████████████ | 6392/12000 [24:33<21:47, 4.29it/s]
train loss:0.023067718978940336
53%|█████████████████████████████████████████ | 6393/12000 [24:33<21:39, 4.32it/s]
train loss:0.0010735992428600077
53%|█████████████████████████████████████████ | 6394/12000 [24:33<21:33, 4.34it/s]
train loss:0.0033975682756099824
53%|█████████████████████████████████████████ | 6395/12000 [24:34<21:28, 4.35it/s]
train loss:0.0012533771677433457
53%|█████████████████████████████████████████ | 6396/12000 [24:34<21:09, 4.42it/s]
train loss:0.008205274045551866
53%|█████████████████████████████████████████ | 6397/12000 [24:34<21:10, 4.41it/s]
train loss:0.004301629161211415
53%|█████████████████████████████████████████ | 6398/12000 [24:34<21:11, 4.41it/s]
train loss:0.006617629909625247
53%|█████████████████████████████████████████ | 6399/12000 [24:34<21:13, 4.40it/s]
train loss:0.006919134224157796
53%|█████████████████████████████████████████ | 6400/12000 [24:35<21:00, 4.44it/s]
train loss:0.00140292486235489
53%|█████████████████████████████████████████ | 6401/12000 [24:35<21:04, 4.43it/s]
train loss:0.0004926315009421697
53%|█████████████████████████████████████████ | 6402/12000 [24:35<21:09, 4.41it/s]
train loss:0.0039968913191223586
53%|█████████████████████████████████████████ | 6403/12000 [24:35<21:10, 4.40it/s]
train loss:0.0021740702836091663
53%|█████████████████████████████████████████ | 6404/12000 [24:36<21:12, 4.40it/s]
train loss:0.003270144076405018
53%|█████████████████████████████████████████ | 6405/12000 [24:36<20:59, 4.44it/s]
train loss:0.009866354128199127
53%|█████████████████████████████████████████ | 6406/12000 [24:36<21:06, 4.42it/s]
train loss:0.0006048348790686737
53%|█████████████████████████████████████████ | 6407/12000 [24:36<21:12, 4.39it/s]
train loss:0.0003702370605105975
53%|█████████████████████████████████████████ | 6408/12000 [24:37<21:25, 4.35it/s]
train loss:0.02846084767893363
53%|█████████████████████████████████████████ | 6409/12000 [24:37<21:13, 4.39it/s]
train loss:0.0051419043982417634
53%|█████████████████████████████████████████▏ | 6410/12000 [24:37<21:15, 4.38it/s]
train loss:0.008422456589891048
53%|█████████████████████████████████████████▏ | 6411/12000 [24:37<21:13, 4.39it/s]
train loss:0.0025478846918588994
53%|█████████████████████████████████████████▏ | 6412/12000 [24:37<21:13, 4.39it/s]
train loss:0.001113472784466691
53%|█████████████████████████████████████████▏ | 6413/12000 [24:38<21:01, 4.43it/s]
train loss:0.004851658859928073
53%|█████████████████████████████████████████▏ | 6414/12000 [24:38<21:01, 4.43it/s]
train loss:0.011006579039169788
53%|█████████████████████████████████████████▏ | 6415/12000 [24:38<21:10, 4.40it/s]
train loss:0.003456294351200531
53%|█████████████████████████████████████████▏ | 6416/12000 [24:38<21:14, 4.38it/s]
train loss:0.0021983496282009123
53%|█████████████████████████████████████████▏ | 6417/12000 [24:39<21:11, 4.39it/s]
train loss:0.0015647872418653077
53%|█████████████████████████████████████████▏ | 6418/12000 [24:39<20:59, 4.43it/s]
train loss:0.0037136815304304937
53%|█████████████████████████████████████████▏ | 6419/12000 [24:39<21:02, 4.42it/s]
train loss:0.007933629373518592
54%|█████████████████████████████████████████▏ | 6420/12000 [24:39<21:03, 4.41it/s]
train loss:0.0024331586865676542
54%|█████████████████████████████████████████▏ | 6421/12000 [24:39<21:05, 4.41it/s]
train loss:0.008622209111557472
54%|█████████████████████████████████████████▏ | 6422/12000 [24:40<21:07, 4.40it/s]
train loss:0.008142630512522325
54%|█████████████████████████████████████████▏ | 6423/12000 [24:40<21:06, 4.40it/s]
train loss:0.001964071262753761
54%|█████████████████████████████████████████▏ | 6424/12000 [24:40<20:51, 4.45it/s]
train loss:0.006486562792192211
54%|█████████████████████████████████████████▏ | 6425/12000 [24:40<20:59, 4.43it/s]
train loss:0.004151412891690135
54%|█████████████████████████████████████████▏ | 6426/12000 [24:41<20:57, 4.43it/s]
train loss:0.003739515772337675
54%|█████████████████████████████████████████▏ | 6427/12000 [24:41<20:53, 4.45it/s]
train loss:0.0011607319082420037
54%|█████████████████████████████████████████▏ | 6428/12000 [24:41<20:59, 4.42it/s]
train loss:0.005847972660878094
54%|█████████████████████████████████████████▎ | 6429/12000 [24:41<21:06, 4.40it/s]
train loss:0.0007913981906570426
54%|█████████████████████████████████████████▎ | 6430/12000 [24:41<21:07, 4.39it/s]
train loss:0.00200245508885189
54%|█████████████████████████████████████████▎ | 6431/12000 [24:42<20:49, 4.46it/s]
train loss:0.0025777974659908307
54%|█████████████████████████████████████████▎ | 6432/12000 [24:42<20:55, 4.43it/s]
train loss:0.015195179820269468
54%|█████████████████████████████████████████▎ | 6433/12000 [24:42<20:57, 4.43it/s]
train loss:0.0030213362384585284
54%|█████████████████████████████████████████▎ | 6434/12000 [24:42<20:59, 4.42it/s]
train loss:0.0021807788805746063
54%|█████████████████████████████████████████▎ | 6435/12000 [24:43<20:58, 4.42it/s]
train loss:0.004130354511645244
54%|█████████████████████████████████████████▎ | 6436/12000 [24:43<20:55, 4.43it/s]
train loss:0.0020886955264825193
54%|█████████████████████████████████████████▎ | 6437/12000 [24:43<20:55, 4.43it/s]
train loss:0.0013554681906063455
54%|█████████████████████████████████████████▎ | 6438/12000 [24:43<20:57, 4.42it/s]
train loss:0.005056672290557484
54%|█████████████████████████████████████████▎ | 6439/12000 [24:44<21:02, 4.40it/s]
train loss:0.0021122430442917063
54%|█████████████████████████████████████████▎ | 6440/12000 [24:44<20:46, 4.46it/s]
train loss:0.0047434909304432255
54%|█████████████████████████████████████████▎ | 6441/12000 [24:44<20:51, 4.44it/s]
train loss:0.0017525721129047123
54%|█████████████████████████████████████████▎ | 6442/12000 [24:44<20:55, 4.43it/s]
train loss:0.02589951487099778
54%|█████████████████████████████████████████▎ | 6443/12000 [24:44<20:57, 4.42it/s]
train loss:0.0026290421453262973
54%|█████████████████████████████████████████▎ | 6444/12000 [24:45<20:42, 4.47it/s]
train loss:0.0030942762777778593
54%|█████████████████████████████████████████▎ | 6445/12000 [24:45<20:49, 4.45it/s]
train loss:0.0006126487357965534
54%|█████████████████████████████████████████▎ | 6446/12000 [24:45<20:55, 4.43it/s]
train loss:0.010973252816631774
54%|█████████████████████████████████████████▎ | 6447/12000 [24:45<20:56, 4.42it/s]
train loss:0.0017881425544364336
54%|█████████████████████████████████████████▎ | 6448/12000 [24:46<21:00, 4.41it/s]
train loss:0.010962646711613148
54%|█████████████████████████████████████████▍ | 6449/12000 [24:46<20:48, 4.45it/s]
train loss:0.004224461678263713
54%|█████████████████████████████████████████▍ | 6450/12000 [24:46<20:53, 4.43it/s]
train loss:0.0061258670318494225
54%|█████████████████████████████████████████▍ | 6451/12000 [24:46<21:15, 4.35it/s]
train loss:0.0021203816851076834
54%|█████████████████████████████████████████▍ | 6452/12000 [24:46<21:25, 4.31it/s]
train loss:0.021128895362116755
54%|█████████████████████████████████████████▍ | 6453/12000 [24:47<21:13, 4.35it/s]
train loss:0.008070337881196798
54%|█████████████████████████████████████████▍ | 6454/12000 [24:47<21:04, 4.38it/s]
train loss:0.012630883272058906
54%|█████████████████████████████████████████▍ | 6455/12000 [24:47<21:13, 4.35it/s]
train loss:0.0024691004621179456
54%|█████████████████████████████████████████▍ | 6456/12000 [24:47<21:19, 4.33it/s]
train loss:0.0006453122277585849
54%|█████████████████████████████████████████▍ | 6457/12000 [24:48<21:16, 4.34it/s]
train loss:0.0002183026202303157
54%|█████████████████████████████████████████▍ | 6458/12000 [24:48<21:17, 4.34it/s]
train loss:0.0061788877362377445
54%|█████████████████████████████████████████▍ | 6459/12000 [24:48<21:24, 4.31it/s]
train loss:0.024279585761413137
54%|█████████████████████████████████████████▍ | 6460/12000 [24:48<21:23, 4.32it/s]
train loss:0.019023135377769243
54%|█████████████████████████████████████████▍ | 6461/12000 [24:49<21:25, 4.31it/s]
train loss:0.004442561365413958
54%|█████████████████████████████████████████▍ | 6462/12000 [24:49<21:21, 4.32it/s]
train loss:0.004045237726966384
54%|█████████████████████████████████████████▍ | 6463/12000 [24:49<21:14, 4.35it/s]
train loss:0.021945962778027753
54%|█████████████████████████████████████████▍ | 6464/12000 [24:49<21:09, 4.36it/s]
train loss:0.007082885381863483
54%|█████████████████████████████████████████▍ | 6465/12000 [24:49<21:10, 4.36it/s]
train loss:0.006621073615705636
54%|█████████████████████████████████████████▍ | 6466/12000 [24:50<20:52, 4.42it/s]
train loss:0.0025983772305652585
54%|█████████████████████████████████████████▍ | 6467/12000 [24:50<20:55, 4.41it/s]
train loss:0.0018645059202061888
54%|█████████████████████████████████████████▌ | 6468/12000 [24:50<20:58, 4.40it/s]
train loss:0.011134042911615452
54%|█████████████████████████████████████████▌ | 6469/12000 [24:50<21:06, 4.37it/s]
train loss:0.002734870602433673
54%|█████████████████████████████████████████▌ | 6470/12000 [24:51<20:57, 4.40it/s]
train loss:0.0074754366944342595
54%|█████████████████████████████████████████▌ | 6471/12000 [24:51<20:55, 4.40it/s]
train loss:0.004769459428796311
54%|█████████████████████████████████████████▌ | 6472/12000 [24:51<20:58, 4.39it/s]
train loss:0.0019098610498895446
54%|█████████████████████████████████████████▌ | 6473/12000 [24:51<21:07, 4.36it/s]
train loss:0.0017802006227404866
54%|█████████████████████████████████████████▌ | 6474/12000 [24:52<21:03, 4.37it/s]
train loss:0.011749475479061864
54%|█████████████████████████████████████████▌ | 6475/12000 [24:52<20:52, 4.41it/s]
train loss:0.0011520810722067123
54%|█████████████████████████████████████████▌ | 6476/12000 [24:52<21:00, 4.38it/s]
train loss:0.00487554698111681
54%|█████████████████████████████████████████▌ | 6477/12000 [24:52<21:05, 4.36it/s]
train loss:0.002203066451667642
54%|█████████████████████████████████████████▌ | 6478/12000 [24:52<21:11, 4.34it/s]
train loss:0.005097457691300624
54%|█████████████████████████████████████████▌ | 6479/12000 [24:53<20:55, 4.40it/s]
train loss:0.00505790487654497
54%|█████████████████████████████████████████▌ | 6480/12000 [24:53<20:56, 4.39it/s]
train loss:0.00289244771415485
54%|█████████████████████████████████████████▌ | 6481/12000 [24:53<20:56, 4.39it/s]
train loss:0.0040900559069832025
54%|█████████████████████████████████████████▌ | 6482/12000 [24:53<21:10, 4.34it/s]
train loss:0.009501192864216575
54%|█████████████████████████████████████████▌ | 6483/12000 [24:54<21:23, 4.30it/s]
train loss:0.0059502275011882235
54%|█████████████████████████████████████████▌ | 6484/12000 [24:54<21:28, 4.28it/s]
train loss:0.0008398831618821918
54%|█████████████████████████████████████████▌ | 6485/12000 [24:54<22:33, 4.08it/s]
train loss:0.01052601718001517
54%|█████████████████████████████████████████▌ | 6486/12000 [24:54<23:32, 3.90it/s]
train loss:0.00209512333176069
54%|█████████████████████████████████████████▌ | 6487/12000 [24:55<23:54, 3.84it/s]
train loss:0.01656003266734389
54%|█████████████████████████████████████████▋ | 6488/12000 [24:55<22:49, 4.03it/s]
train loss:0.003533172825190049
54%|█████████████████████████████████████████▋ | 6489/12000 [24:55<22:59, 3.99it/s]
train loss:0.0084735519756537
54%|█████████████████████████████████████████▋ | 6490/12000 [24:55<22:39, 4.05it/s]
train loss:0.014789097466618637
54%|█████████████████████████████████████████▋ | 6491/12000 [24:56<23:20, 3.93it/s]
train loss:0.0014070617017972245
54%|█████████████████████████████████████████▋ | 6492/12000 [24:56<23:50, 3.85it/s]
train loss:0.0024905544068831156
54%|█████████████████████████████████████████▋ | 6493/12000 [24:56<23:21, 3.93it/s]
train loss:0.012915155903226016
54%|█████████████████████████████████████████▋ | 6494/12000 [24:56<23:55, 3.84it/s]
train loss:0.02399767399737466
54%|█████████████████████████████████████████▋ | 6495/12000 [24:57<23:48, 3.85it/s]
train loss:0.0016508540585222615
54%|█████████████████████████████████████████▋ | 6496/12000 [24:57<22:57, 4.00it/s]
train loss:0.02767406237941721
54%|█████████████████████████████████████████▋ | 6497/12000 [24:57<22:24, 4.09it/s]
train loss:0.0004233806656964005
54%|█████████████████████████████████████████▋ | 6498/12000 [24:57<21:56, 4.18it/s]
train loss:0.006434708030086639
54%|█████████████████████████████████████████▋ | 6499/12000 [24:58<21:44, 4.22it/s]
train loss:0.00045258495274634115
54%|█████████████████████████████████████████▋ | 6500/12000 [24:58<21:26, 4.28it/s]
train loss:0.0032909296300062396
54%|█████████████████████████████████████████▋ | 6501/12000 [24:58<21:20, 4.29it/s]
train loss:0.004492551353681008
54%|█████████████████████████████████████████▋ | 6502/12000 [24:58<21:09, 4.33it/s]
train loss:0.001426658521176468
54%|█████████████████████████████████████████▋ | 6503/12000 [24:58<20:56, 4.37it/s]
train loss:0.0013944511661754969
54%|█████████████████████████████████████████▋ | 6504/12000 [24:59<20:45, 4.41it/s]
train loss:0.013184331534023635
54%|█████████████████████████████████████████▋ | 6505/12000 [24:59<21:36, 4.24it/s]
train loss:0.003454306087322849
54%|█████████████████████████████████████████▋ | 6506/12000 [24:59<21:27, 4.27it/s]
train loss:0.005819414464620015
54%|█████████████████████████████████████████▊ | 6507/12000 [24:59<22:32, 4.06it/s]
train loss:0.0029921408639830994
54%|█████████████████████████████████████████▊ | 6508/12000 [25:00<23:12, 3.94it/s]
train loss:0.007804644372380452
54%|█████████████████████████████████████████▊ | 6509/12000 [25:00<23:49, 3.84it/s]
train loss:0.017220227862119734
54%|█████████████████████████████████████████▊ | 6510/12000 [25:00<24:06, 3.79it/s]
train loss:0.04146252036346679
54%|█████████████████████████████████████████▊ | 6511/12000 [25:01<23:25, 3.91it/s]
train loss:0.010914498107050913
54%|█████████████████████████████████████████▊ | 6512/12000 [25:01<23:42, 3.86it/s]
train loss:0.0105300617106992
54%|█████████████████████████████████████████▊ | 6513/12000 [25:01<22:56, 3.99it/s]
train loss:0.0031650194874890585
54%|█████████████████████████████████████████▊ | 6514/12000 [25:01<23:10, 3.94it/s]
train loss:0.005967352546550204
54%|█████████████████████████████████████████▊ | 6515/12000 [25:02<23:49, 3.84it/s]
train loss:0.0005135577037826497
54%|█████████████████████████████████████████▊ | 6516/12000 [25:02<24:04, 3.80it/s]
train loss:0.012546123606634445
54%|█████████████████████████████████████████▊ | 6517/12000 [25:02<24:28, 3.73it/s]
train loss:0.002929911035897056
54%|█████████████████████████████████████████▊ | 6518/12000 [25:02<23:48, 3.84it/s]
train loss:0.0010918116158039573
54%|█████████████████████████████████████████▊ | 6519/12000 [25:03<24:08, 3.78it/s]
train loss:0.004516367060086729
54%|█████████████████████████████████████████▊ | 6520/12000 [25:03<23:53, 3.82it/s]
train loss:0.018200450414355564
54%|█████████████████████████████████████████▊ | 6521/12000 [25:03<23:06, 3.95it/s]
train loss:0.0006063761842990057
54%|█████████████████████████████████████████▊ | 6522/12000 [25:03<22:32, 4.05it/s]
train loss:0.030286214030940384
54%|█████████████████████████████████████████▊ | 6523/12000 [25:04<22:06, 4.13it/s]
train loss:0.006196173092361836
54%|█████████████████████████████████████████▊ | 6524/12000 [25:04<21:41, 4.21it/s]
train loss:0.0015780219519584127
54%|█████████████████████████████████████████▊ | 6525/12000 [25:04<21:25, 4.26it/s]
train loss:0.00207580762333996
54%|█████████████████████████████████████████▉ | 6526/12000 [25:04<21:14, 4.30it/s]
train loss:0.019516480566025906
54%|█████████████████████████████████████████▉ | 6527/12000 [25:05<21:11, 4.30it/s]
train loss:0.004651979992019474
54%|█████████████████████████████████████████▉ | 6528/12000 [25:05<20:57, 4.35it/s]
train loss:0.009832585478089113
54%|█████████████████████████████████████████▉ | 6529/12000 [25:05<20:57, 4.35it/s]
train loss:0.006955797239326823
54%|█████████████████████████████████████████▉ | 6530/12000 [25:05<21:08, 4.31it/s]
train loss:0.0019735627511288946
54%|█████████████████████████████████████████▉ | 6531/12000 [25:05<21:13, 4.29it/s]
train loss:0.00481647818808924
54%|█████████████████████████████████████████▉ | 6532/12000 [25:06<21:18, 4.28it/s]
train loss:0.07040727069503962
54%|█████████████████████████████████████████▉ | 6533/12000 [25:06<21:35, 4.22it/s]
train loss:0.01282491955518129
54%|█████████████████████████████████████████▉ | 6534/12000 [25:06<22:34, 4.04it/s]
train loss:0.0038716379058507016
54%|█████████████████████████████████████████▉ | 6535/12000 [25:06<23:18, 3.91it/s]
train loss:0.002158556140998477
54%|█████████████████████████████████████████▉ | 6536/12000 [25:07<23:39, 3.85it/s]
train loss:0.0020102486762586243
54%|█████████████████████████████████████████▉ | 6537/12000 [25:07<24:05, 3.78it/s]
train loss:0.004742191487073774
54%|█████████████████████████████████████████▉ | 6538/12000 [25:07<23:48, 3.82it/s]
train loss:0.006239576994249165
54%|█████████████████████████████████████████▉ | 6539/12000 [25:07<22:50, 3.99it/s]
train loss:0.006793277968648653
55%|█████████████████████████████████████████▉ | 6540/12000 [25:08<22:02, 4.13it/s]
train loss:0.007868776778265136
55%|█████████████████████████████████████████▉ | 6541/12000 [25:08<21:44, 4.19it/s]
train loss:0.004878756036389436
55%|█████████████████████████████████████████▉ | 6542/12000 [25:08<21:26, 4.24it/s]
train loss:0.0019348811333022356
55%|█████████████████████████████████████████▉ | 6543/12000 [25:08<21:23, 4.25it/s]
train loss:0.003001490303504103
55%|█████████████████████████████████████████▉ | 6544/12000 [25:09<21:13, 4.28it/s]
train loss:0.0035214948641865153
55%|█████████████████████████████████████████▉ | 6545/12000 [25:09<21:06, 4.31it/s]
train loss:0.03308058792901078
55%|██████████████████████████████████████████ | 6546/12000 [25:09<20:45, 4.38it/s]
train loss:0.0016221440002061117
55%|██████████████████████████████████████████ | 6547/12000 [25:09<20:43, 4.38it/s]
train loss:0.005599956432469157
55%|██████████████████████████████████████████ | 6548/12000 [25:10<20:45, 4.38it/s]
train loss:0.004860695086374484
55%|██████████████████████████████████████████ | 6549/12000 [25:10<20:30, 4.43it/s]
train loss:0.0029203725134072673
55%|██████████████████████████████████████████ | 6550/12000 [25:10<20:35, 4.41it/s]
train loss:0.010327259236020023
55%|██████████████████████████████████████████ | 6551/12000 [25:10<20:36, 4.41it/s]
train loss:0.012599576052397143
55%|██████████████████████████████████████████ | 6552/12000 [25:10<20:38, 4.40it/s]
train loss:0.0009288844894549861
55%|██████████████████████████████████████████ | 6553/12000 [25:11<20:23, 4.45it/s]
train loss:0.0032457820786884377
55%|██████████████████████████████████████████ | 6554/12000 [25:11<20:29, 4.43it/s]
train loss:0.002242061209271496
55%|██████████████████████████████████████████ | 6555/12000 [25:11<22:01, 4.12it/s]
train loss:0.001275711743738774
55%|██████████████████████████████████████████ | 6556/12000 [25:11<23:04, 3.93it/s]
train loss:0.0023912830352980845
55%|██████████████████████████████████████████ | 6557/12000 [25:12<22:10, 4.09it/s]
train loss:0.013614946619121415
55%|██████████████████████████████████████████ | 6558/12000 [25:12<21:44, 4.17it/s]
train loss:0.0013011657850116132
55%|██████████████████████████████████████████ | 6559/12000 [25:12<21:29, 4.22it/s]
train loss:0.0012763572329119028
55%|██████████████████████████████████████████ | 6560/12000 [25:12<21:13, 4.27it/s]
train loss:0.006552944559894641
55%|██████████████████████████████████████████ | 6561/12000 [25:13<21:03, 4.30it/s]
train loss:0.0015119893171347553
55%|██████████████████████████████████████████ | 6562/12000 [25:13<20:50, 4.35it/s]
train loss:0.012536116765563902
55%|██████████████████████████████████████████ | 6563/12000 [25:13<20:47, 4.36it/s]
train loss:0.003367528697119057
55%|██████████████████████████████████████████ | 6564/12000 [25:13<20:47, 4.36it/s]
train loss:0.002841578966562492
55%|██████████████████████████████████████████▏ | 6565/12000 [25:14<20:56, 4.33it/s]
train loss:0.00019645335822938444
55%|██████████████████████████████████████████▏ | 6566/12000 [25:14<21:52, 4.14it/s]
train loss:0.0003023964661677354
55%|██████████████████████████████████████████▏ | 6567/12000 [25:14<22:49, 3.97it/s]
train loss:0.004079514491616086
55%|██████████████████████████████████████████▏ | 6568/12000 [25:14<23:27, 3.86it/s]
train loss:0.0019651341726563175
55%|██████████████████████████████████████████▏ | 6569/12000 [25:15<23:18, 3.88it/s]
train loss:0.0011436702874840423
55%|██████████████████████████████████████████▏ | 6570/12000 [25:15<22:26, 4.03it/s]
train loss:0.0015856089865317622
55%|██████████████████████████████████████████▏ | 6571/12000 [25:15<22:05, 4.10it/s]
train loss:0.005833616413096124
55%|██████████████████████████████████████████▏ | 6572/12000 [25:15<21:44, 4.16it/s]
train loss:0.010808286838283679
55%|██████████████████████████████████████████▏ | 6573/12000 [25:16<21:35, 4.19it/s]
train loss:0.05811030552241363
55%|██████████████████████████████████████████▏ | 6574/12000 [25:16<21:12, 4.26it/s]
train loss:0.0020424676186676237
55%|██████████████████████████████████████████▏ | 6575/12000 [25:16<21:10, 4.27it/s]
train loss:0.020374085643145606
55%|██████████████████████████████████████████▏ | 6576/12000 [25:16<21:07, 4.28it/s]
train loss:0.01848495955145706
55%|██████████████████████████████████████████▏ | 6577/12000 [25:16<21:36, 4.18it/s]
train loss:0.0031665514827392723
55%|██████████████████████████████████████████▏ | 6578/12000 [25:17<21:07, 4.28it/s]
train loss:0.004250774412886311
55%|██████████████████████████████████████████▏ | 6579/12000 [25:17<21:00, 4.30it/s]
train loss:0.0028563788172613434
55%|██████████████████████████████████████████▏ | 6580/12000 [25:17<20:56, 4.31it/s]
train loss:0.004878560565172957
55%|██████████████████████████████████████████▏ | 6581/12000 [25:17<20:48, 4.34it/s]
train loss:0.0009672241469360351
55%|██████████████████████████████████████████▏ | 6582/12000 [25:18<20:44, 4.35it/s]
train loss:0.008930084379163188
55%|██████████████████████████████████████████▏ | 6583/12000 [25:18<22:31, 4.01it/s]
train loss:0.023207796028271388
55%|██████████████████████████████████████████▏ | 6584/12000 [25:18<23:59, 3.76it/s]
train loss:0.010020053900387819
55%|██████████████████████████████████████████▎ | 6585/12000 [25:18<24:57, 3.62it/s]
train loss:0.002558870864205316
55%|██████████████████████████████████████████▎ | 6586/12000 [25:19<25:34, 3.53it/s]
train loss:0.011188272373465688
55%|██████████████████████████████████████████▎ | 6587/12000 [25:19<26:03, 3.46it/s]
train loss:0.0016761575654355735
55%|██████████████████████████████████████████▎ | 6588/12000 [25:19<26:32, 3.40it/s]
train loss:0.0017696233540152346
55%|██████████████████████████████████████████▎ | 6589/12000 [25:20<26:32, 3.40it/s]
train loss:0.0033533664350778674
55%|██████████████████████████████████████████▎ | 6590/12000 [25:20<26:38, 3.38it/s]
train loss:0.003033164753144762
55%|██████████████████████████████████████████▎ | 6591/12000 [25:20<26:11, 3.44it/s]
train loss:0.004822295865742745
55%|██████████████████████████████████████████▎ | 6592/12000 [25:21<25:43, 3.50it/s]
train loss:0.00306215408254063
55%|██████████████████████████████████████████▎ | 6593/12000 [25:21<23:50, 3.78it/s]
train loss:0.01270482105622891
55%|██████████████████████████████████████████▎ | 6594/12000 [25:21<22:54, 3.93it/s]
train loss:0.04187771356354698
55%|██████████████████████████████████████████▎ | 6595/12000 [25:21<22:16, 4.04it/s]
train loss:0.0003884418371740697
55%|██████████████████████████████████████████▎ | 6596/12000 [25:21<21:46, 4.14it/s]
train loss:0.0037192712657308363
55%|██████████████████████████████████████████▎ | 6597/12000 [25:22<21:10, 4.25it/s]
train loss:0.006548274529758328
55%|██████████████████████████████████████████▎ | 6598/12000 [25:22<21:09, 4.25it/s]
train loss:0.00024322796788402615
55%|██████████████████████████████████████████▎ | 6599/12000 [25:22<20:55, 4.30it/s]
train loss:0.000992416291772465
55%|██████████████████████████████████████████▎ | 6600/12000 [25:22<20:49, 4.32it/s]
train loss:0.003228204343608874 train loss:0.0024574061875998446
55%|█████████████████████████████████████████▎ | 6601/12000 [25:24<1:04:47, 1.39it/s]
=== epoch:12, train acc:0.998, test acc:0.987 ===
55%|██████████████████████████████████████████▎ | 6602/12000 [25:24<51:35, 1.74it/s]
train loss:0.008007196786897156
55%|██████████████████████████████████████████▎ | 6603/12000 [25:25<42:01, 2.14it/s]
train loss:0.006834653020394798
55%|██████████████████████████████████████████▍ | 6604/12000 [25:25<35:22, 2.54it/s]
train loss:0.0008271894635943097
55%|██████████████████████████████████████████▍ | 6605/12000 [25:25<32:14, 2.79it/s]
train loss:0.003967179593751965
55%|██████████████████████████████████████████▍ | 6606/12000 [25:25<30:03, 2.99it/s]
train loss:0.00038845698352329386
55%|██████████████████████████████████████████▍ | 6607/12000 [25:26<28:14, 3.18it/s]
train loss:0.0027279450485603396
55%|██████████████████████████████████████████▍ | 6608/12000 [25:26<27:09, 3.31it/s]
train loss:0.001062029854965522
55%|██████████████████████████████████████████▍ | 6609/12000 [25:26<25:40, 3.50it/s]
train loss:0.0006053429817726095
55%|██████████████████████████████████████████▍ | 6610/12000 [25:26<24:05, 3.73it/s]
train loss:0.0026177397164049944
55%|██████████████████████████████████████████▍ | 6611/12000 [25:27<22:46, 3.94it/s]
train loss:0.0064303341851343065
55%|██████████████████████████████████████████▍ | 6612/12000 [25:27<22:04, 4.07it/s]
train loss:0.004366214438862718
55%|██████████████████████████████████████████▍ | 6613/12000 [25:27<21:32, 4.17it/s]
train loss:0.0002449036348970799
55%|██████████████████████████████████████████▍ | 6614/12000 [25:27<21:12, 4.23it/s]
train loss:0.0032769095034448814
55%|██████████████████████████████████████████▍ | 6615/12000 [25:28<20:55, 4.29it/s]
train loss:0.0037773160248672135
55%|██████████████████████████████████████████▍ | 6616/12000 [25:28<20:35, 4.36it/s]
train loss:0.0015989576688506756
55%|██████████████████████████████████████████▍ | 6617/12000 [25:28<20:31, 4.37it/s]
train loss:0.004065261544536769
55%|██████████████████████████████████████████▍ | 6618/12000 [25:28<20:26, 4.39it/s]
train loss:0.003047308601287177
55%|██████████████████████████████████████████▍ | 6619/12000 [25:28<20:23, 4.40it/s]
train loss:0.004343831985231433
55%|██████████████████████████████████████████▍ | 6620/12000 [25:29<20:10, 4.44it/s]
train loss:0.026494899174561888
55%|██████████████████████████████████████████▍ | 6621/12000 [25:29<20:16, 4.42it/s]
train loss:0.0012150976268739734
55%|██████████████████████████████████████████▍ | 6622/12000 [25:29<20:19, 4.41it/s]
train loss:0.006317741365135448
55%|██████████████████████████████████████████▍ | 6623/12000 [25:29<20:21, 4.40it/s]
train loss:0.0023935653186760377
55%|██████████████████████████████████████████▌ | 6624/12000 [25:30<20:13, 4.43it/s]
train loss:0.0010018039027166884
55%|██████████████████████████████████████████▌ | 6625/12000 [25:30<20:10, 4.44it/s]
train loss:0.001422289613739674
55%|██████████████████████████████████████████▌ | 6626/12000 [25:30<20:15, 4.42it/s]
train loss:0.015073887366975798
55%|██████████████████████████████████████████▌ | 6627/12000 [25:30<20:17, 4.41it/s]
train loss:0.000691007411732124
55%|██████████████████████████████████████████▌ | 6628/12000 [25:31<20:17, 4.41it/s]
train loss:0.002126828744116091
55%|██████████████████████████████████████████▌ | 6629/12000 [25:31<20:03, 4.46it/s]
train loss:0.015516951486847357
55%|██████████████████████████████████████████▌ | 6630/12000 [25:31<20:07, 4.45it/s]
train loss:0.007373325715463602
55%|██████████████████████████████████████████▌ | 6631/12000 [25:31<20:09, 4.44it/s]
train loss:0.03449023737067646
55%|██████████████████████████████████████████▌ | 6632/12000 [25:31<20:11, 4.43it/s]
train loss:0.011839786816716415
55%|██████████████████████████████████████████▌ | 6633/12000 [25:32<20:05, 4.45it/s]
train loss:0.004584545542506434
55%|██████████████████████████████████████████▌ | 6634/12000 [25:32<20:05, 4.45it/s]
train loss:0.003577031243916341
55%|██████████████████████████████████████████▌ | 6635/12000 [25:32<20:11, 4.43it/s]
train loss:0.002192827869215194
55%|██████████████████████████████████████████▌ | 6636/12000 [25:32<20:12, 4.42it/s]
train loss:0.0005822744078184422
55%|██████████████████████████████████████████▌ | 6637/12000 [25:33<20:16, 4.41it/s]
train loss:0.008245677376724561
55%|██████████████████████████████████████████▌ | 6638/12000 [25:33<20:08, 4.44it/s]
train loss:0.019629974317315998
55%|██████████████████████████████████████████▌ | 6639/12000 [25:33<20:13, 4.42it/s]
train loss:0.011788764544935871
55%|██████████████████████████████████████████▌ | 6640/12000 [25:33<20:14, 4.41it/s]
train loss:0.010756292897941524
55%|██████████████████████████████████████████▌ | 6641/12000 [25:33<20:13, 4.41it/s]
train loss:0.003969348582988373
55%|██████████████████████████████████████████▌ | 6642/12000 [25:34<20:04, 4.45it/s]
train loss:0.013173921416727791
55%|██████████████████████████████████████████▋ | 6643/12000 [25:34<20:20, 4.39it/s]
train loss:0.009043561671470024
55%|██████████████████████████████████████████▋ | 6644/12000 [25:34<20:21, 4.38it/s]
train loss:0.0056398797611667975
55%|██████████████████████████████████████████▋ | 6645/12000 [25:34<20:23, 4.38it/s]
train loss:0.002961255734468062
55%|██████████████████████████████████████████▋ | 6646/12000 [25:35<20:28, 4.36it/s]
train loss:0.01605734511524942
55%|██████████████████████████████████████████▋ | 6647/12000 [25:35<20:24, 4.37it/s]
train loss:0.0011970758663650612
55%|██████████████████████████████████████████▋ | 6648/12000 [25:35<20:23, 4.37it/s]
train loss:0.005571945607803716
55%|██████████████████████████████████████████▋ | 6649/12000 [25:35<20:23, 4.37it/s]
train loss:0.008291791842197947
55%|██████████████████████████████████████████▋ | 6650/12000 [25:36<20:22, 4.38it/s]
train loss:0.006967976471610627
55%|██████████████████████████████████████████▋ | 6651/12000 [25:36<20:03, 4.45it/s]
train loss:0.0029577237786732502
55%|██████████████████████████████████████████▋ | 6652/12000 [25:36<20:08, 4.43it/s]
train loss:0.002271939318802583
55%|██████████████████████████████████████████▋ | 6653/12000 [25:36<20:10, 4.42it/s]
train loss:0.0022497685132244773
55%|██████████████████████████████████████████▋ | 6654/12000 [25:36<20:12, 4.41it/s]
train loss:0.006126960687194983
55%|██████████████████████████████████████████▋ | 6655/12000 [25:37<20:03, 4.44it/s]
train loss:0.0026902026638537303
55%|██████████████████████████████████████████▋ | 6656/12000 [25:37<20:07, 4.42it/s]
train loss:0.0010582479923660778
55%|██████████████████████████████████████████▋ | 6657/12000 [25:37<20:10, 4.41it/s]
train loss:0.006896203704948295
55%|██████████████████████████████████████████▋ | 6658/12000 [25:37<20:10, 4.41it/s]
train loss:0.0026155310876145
55%|██████████████████████████████████████████▋ | 6659/12000 [25:38<20:16, 4.39it/s]
train loss:0.006126425228877629
56%|██████████████████████████████████████████▋ | 6660/12000 [25:38<20:10, 4.41it/s]
train loss:0.0032007772642482805
56%|██████████████████████████████████████████▋ | 6661/12000 [25:38<20:11, 4.41it/s]
train loss:0.011747592410170964
56%|██████████████████████████████████████████▋ | 6662/12000 [25:38<20:20, 4.38it/s]
train loss:0.016596056790392572
56%|██████████████████████████████████████████▊ | 6663/12000 [25:38<20:17, 4.38it/s]
train loss:0.011860540497028657
56%|██████████████████████████████████████████▊ | 6664/12000 [25:39<20:03, 4.43it/s]
train loss:0.0005499634982505378
56%|██████████████████████████████████████████▊ | 6665/12000 [25:39<20:05, 4.42it/s]
train loss:0.00338202456690369
56%|██████████████████████████████████████████▊ | 6666/12000 [25:39<20:06, 4.42it/s]
train loss:0.0028762612363179402
56%|██████████████████████████████████████████▊ | 6667/12000 [25:39<20:08, 4.41it/s]
train loss:0.0050955330837869186
56%|██████████████████████████████████████████▊ | 6668/12000 [25:40<20:08, 4.41it/s]
train loss:0.07322117149288072
56%|██████████████████████████████████████████▊ | 6669/12000 [25:40<20:04, 4.43it/s]
train loss:0.0017383649253314224
56%|██████████████████████████████████████████▊ | 6670/12000 [25:40<20:09, 4.41it/s]
train loss:0.0037015123516034748
56%|██████████████████████████████████████████▊ | 6671/12000 [25:40<20:10, 4.40it/s]
train loss:0.005204058187146741
56%|██████████████████████████████████████████▊ | 6672/12000 [25:41<20:38, 4.30it/s]
train loss:0.005320527854808605
56%|██████████████████████████████████████████▊ | 6673/12000 [25:41<20:15, 4.38it/s]
train loss:0.0018855628749079255
56%|██████████████████████████████████████████▊ | 6674/12000 [25:41<20:19, 4.37it/s]
train loss:0.0006685376458936028
56%|██████████████████████████████████████████▊ | 6675/12000 [25:41<21:27, 4.14it/s]
train loss:0.0066158959718908535
56%|██████████████████████████████████████████▊ | 6676/12000 [25:42<22:21, 3.97it/s]
train loss:0.0038208988216204827
56%|██████████████████████████████████████████▊ | 6677/12000 [25:42<22:47, 3.89it/s]
train loss:0.000256920089055999
56%|██████████████████████████████████████████▊ | 6678/12000 [25:42<23:31, 3.77it/s]
train loss:0.00048796998145230294
56%|██████████████████████████████████████████▊ | 6679/12000 [25:42<23:36, 3.76it/s]
train loss:0.00041887072431829583
56%|██████████████████████████████████████████▊ | 6680/12000 [25:43<22:38, 3.92it/s]
train loss:0.006068522981263229
56%|██████████████████████████████████████████▊ | 6681/12000 [25:43<23:10, 3.82it/s]
train loss:0.04027017023481347
56%|██████████████████████████████████████████▉ | 6682/12000 [25:43<23:55, 3.70it/s]
train loss:0.01823587154300712
56%|██████████████████████████████████████████▉ | 6683/12000 [25:43<24:15, 3.65it/s]
train loss:0.00451421788929902
56%|██████████████████████████████████████████▉ | 6684/12000 [25:44<23:04, 3.84it/s]
train loss:0.002733324371358401
56%|██████████████████████████████████████████▉ | 6685/12000 [25:44<22:10, 4.00it/s]
train loss:0.00458381953914506
56%|██████████████████████████████████████████▉ | 6686/12000 [25:44<23:03, 3.84it/s]
train loss:0.0010141180801077612
56%|██████████████████████████████████████████▉ | 6687/12000 [25:44<23:39, 3.74it/s]
train loss:0.0005069744701872769
56%|██████████████████████████████████████████▉ | 6688/12000 [25:45<23:51, 3.71it/s]
train loss:0.00398109654070972
56%|██████████████████████████████████████████▉ | 6689/12000 [25:45<24:14, 3.65it/s]
train loss:0.0035634680619495325
56%|██████████████████████████████████████████▉ | 6690/12000 [25:45<24:30, 3.61it/s]
train loss:0.004639547349458623
56%|██████████████████████████████████████████▉ | 6691/12000 [25:46<24:42, 3.58it/s]
train loss:0.001626902007307334
56%|██████████████████████████████████████████▉ | 6692/12000 [25:46<23:41, 3.73it/s]
train loss:0.0005848538023393651
56%|██████████████████████████████████████████▉ | 6693/12000 [25:46<22:58, 3.85it/s]
train loss:0.0024539215238366273
56%|██████████████████████████████████████████▉ | 6694/12000 [25:46<22:16, 3.97it/s]
train loss:0.0027900516705334933
56%|██████████████████████████████████████████▉ | 6695/12000 [25:47<21:48, 4.05it/s]
train loss:0.006034475715742672
56%|██████████████████████████████████████████▉ | 6696/12000 [25:47<22:19, 3.96it/s]
train loss:0.057526404605201996
56%|██████████████████████████████████████████▉ | 6697/12000 [25:47<22:55, 3.85it/s]
train loss:0.004700192810053478
56%|██████████████████████████████████████████▉ | 6698/12000 [25:47<23:25, 3.77it/s]
train loss:0.0030823502247487467
56%|██████████████████████████████████████████▉ | 6699/12000 [25:48<23:50, 3.71it/s]
train loss:0.005333062613218439
56%|██████████████████████████████████████████▉ | 6700/12000 [25:48<23:57, 3.69it/s]
train loss:0.006342263849897662
56%|██████████████████████████████████████████▉ | 6701/12000 [25:48<24:15, 3.64it/s]
train loss:0.00046295961583252244
56%|███████████████████████████████████████████ | 6702/12000 [25:48<24:10, 3.65it/s]
train loss:0.0008425486617666933
56%|███████████████████████████████████████████ | 6703/12000 [25:49<24:16, 3.64it/s]
train loss:0.0017796186411215085
56%|███████████████████████████████████████████ | 6704/12000 [25:49<24:18, 3.63it/s]
train loss:0.0034524869816836045
56%|███████████████████████████████████████████ | 6705/12000 [25:49<24:13, 3.64it/s]
train loss:0.004997917328939595
56%|███████████████████████████████████████████ | 6706/12000 [25:50<24:29, 3.60it/s]
train loss:0.004948362768409535
56%|███████████████████████████████████████████ | 6707/12000 [25:50<24:09, 3.65it/s]
train loss:0.003139070879609957
56%|███████████████████████████████████████████ | 6708/12000 [25:50<24:16, 3.63it/s]
train loss:0.004334812782540428
56%|███████████████████████████████████████████ | 6709/12000 [25:50<24:19, 3.62it/s]
train loss:0.02968107727461671
56%|███████████████████████████████████████████ | 6710/12000 [25:51<24:12, 3.64it/s]
train loss:0.0029935488405304234
56%|███████████████████████████████████████████ | 6711/12000 [25:51<23:25, 3.76it/s]
train loss:0.005081758236538422
56%|███████████████████████████████████████████ | 6712/12000 [25:51<23:41, 3.72it/s]
train loss:0.002567822767829645
56%|███████████████████████████████████████████ | 6713/12000 [25:51<23:53, 3.69it/s]
train loss:0.005819433699699076
56%|███████████████████████████████████████████ | 6714/12000 [25:52<23:46, 3.71it/s]
train loss:0.0011632686611315233
56%|███████████████████████████████████████████ | 6715/12000 [25:52<23:31, 3.74it/s]
train loss:0.0020559542490273673
56%|███████████████████████████████████████████ | 6716/12000 [25:52<23:45, 3.71it/s]
train loss:0.008845450787552934
56%|███████████████████████████████████████████ | 6717/12000 [25:53<23:57, 3.68it/s]
train loss:0.010982457439055609
56%|███████████████████████████████████████████ | 6718/12000 [25:53<23:30, 3.74it/s]
train loss:0.0009752681124230758
56%|███████████████████████████████████████████ | 6719/12000 [25:53<23:05, 3.81it/s]
train loss:0.003323467349519144
56%|███████████████████████████████████████████ | 6720/12000 [25:53<22:57, 3.83it/s]
train loss:0.003403332606630937
56%|███████████████████████████████████████████▏ | 6721/12000 [25:54<23:23, 3.76it/s]
train loss:0.0015972652643624948
56%|███████████████████████████████████████████▏ | 6722/12000 [25:54<22:19, 3.94it/s]
train loss:0.001637087535338102
56%|███████████████████████████████████████████▏ | 6723/12000 [25:54<21:42, 4.05it/s]
train loss:0.0019884842234952132
56%|███████████████████████████████████████████▏ | 6724/12000 [25:54<21:11, 4.15it/s]
train loss:0.0025448198192787835
56%|███████████████████████████████████████████▏ | 6725/12000 [25:54<20:55, 4.20it/s]
train loss:0.0013221264722597722
56%|███████████████████████████████████████████▏ | 6726/12000 [25:55<20:23, 4.31it/s]
train loss:0.004714718353291166
56%|███████████████████████████████████████████▏ | 6727/12000 [25:55<20:10, 4.36it/s]
train loss:0.00440457320977607
56%|███████████████████████████████████████████▏ | 6728/12000 [25:55<20:10, 4.36it/s]
train loss:0.0006106059900749332
56%|███████████████████████████████████████████▏ | 6729/12000 [25:55<20:10, 4.35it/s]
train loss:0.003144007004779641
56%|███████████████████████████████████████████▏ | 6730/12000 [25:56<20:05, 4.37it/s]
train loss:0.011773983182913695
56%|███████████████████████████████████████████▏ | 6731/12000 [25:56<20:04, 4.37it/s]
train loss:0.0014861823681655412
56%|███████████████████████████████████████████▏ | 6732/12000 [25:56<20:11, 4.35it/s]
train loss:0.004665148449874611
56%|███████████████████████████████████████████▏ | 6733/12000 [25:56<20:43, 4.24it/s]
train loss:0.0035624736665263146
56%|███████████████████████████████████████████▏ | 6734/12000 [25:57<21:03, 4.17it/s]
train loss:0.004725525431247868
56%|███████████████████████████████████████████▏ | 6735/12000 [25:57<20:37, 4.26it/s]
train loss:0.0033138856362133805
56%|███████████████████████████████████████████▏ | 6736/12000 [25:57<21:40, 4.05it/s]
train loss:0.0002614970367376084
56%|███████████████████████████████████████████▏ | 6737/12000 [25:57<21:53, 4.01it/s]
train loss:0.0019289156603492835
56%|███████████████████████████████████████████▏ | 6738/12000 [25:58<21:45, 4.03it/s]
train loss:0.04453707344479048
56%|███████████████████████████████████████████▏ | 6739/12000 [25:58<21:08, 4.15it/s]
train loss:0.0020701839354575883
56%|███████████████████████████████████████████▏ | 6740/12000 [25:58<20:36, 4.25it/s]
train loss:0.007974685403727984
56%|███████████████████████████████████████████▎ | 6741/12000 [25:58<20:20, 4.31it/s]
train loss:0.00047808469885195594
56%|███████████████████████████████████████████▎ | 6742/12000 [25:58<20:11, 4.34it/s]
train loss:0.0016182570469813245
56%|███████████████████████████████████████████▎ | 6743/12000 [25:59<19:55, 4.40it/s]
train loss:0.001948655922691718
56%|███████████████████████████████████████████▎ | 6744/12000 [25:59<19:54, 4.40it/s]
train loss:0.0028101171129372056
56%|███████████████████████████████████████████▎ | 6745/12000 [25:59<19:55, 4.40it/s]
train loss:0.0009568250649711807
56%|███████████████████████████████████████████▎ | 6746/12000 [25:59<19:52, 4.41it/s]
train loss:0.007698917719895412
56%|███████████████████████████████████████████▎ | 6747/12000 [26:00<19:55, 4.39it/s]
train loss:0.0010117862961453545
56%|███████████████████████████████████████████▎ | 6748/12000 [26:00<19:49, 4.41it/s]
train loss:0.021673885190255895
56%|███████████████████████████████████████████▎ | 6749/12000 [26:00<19:52, 4.40it/s]
train loss:0.00348099695522955
56%|███████████████████████████████████████████▎ | 6750/12000 [26:00<19:52, 4.40it/s]
train loss:0.0059810361612609945
56%|███████████████████████████████████████████▎ | 6751/12000 [26:00<20:00, 4.37it/s]
train loss:0.014721711942392723
56%|███████████████████████████████████████████▎ | 6752/12000 [26:01<19:41, 4.44it/s]
train loss:0.00026440145966672926
56%|███████████████████████████████████████████▎ | 6753/12000 [26:01<19:43, 4.43it/s]
train loss:0.06627467593413658
56%|███████████████████████████████████████████▎ | 6754/12000 [26:01<19:47, 4.42it/s]
train loss:0.00022542870027724663
56%|███████████████████████████████████████████▎ | 6755/12000 [26:01<19:48, 4.41it/s]
train loss:0.005017692479729186
56%|███████████████████████████████████████████▎ | 6756/12000 [26:02<19:42, 4.43it/s]
train loss:0.004380166257452156
56%|███████████████████████████████████████████▎ | 6757/12000 [26:02<19:39, 4.45it/s]
train loss:0.002971781009939558
56%|███████████████████████████████████████████▎ | 6758/12000 [26:02<19:42, 4.43it/s]
train loss:0.0014770194141495757
56%|███████████████████████████████████████████▎ | 6759/12000 [26:02<19:45, 4.42it/s]
train loss:0.001713897921423341
56%|███████████████████████████████████████████▍ | 6760/12000 [26:03<19:56, 4.38it/s]
train loss:0.00266159764578318
56%|███████████████████████████████████████████▍ | 6761/12000 [26:03<19:48, 4.41it/s]
train loss:0.003297420046149836
56%|███████████████████████████████████████████▍ | 6762/12000 [26:03<19:48, 4.41it/s]
train loss:0.00556290013481644
56%|███████████████████████████████████████████▍ | 6763/12000 [26:03<19:57, 4.37it/s]
train loss:0.010830968142930497
56%|███████████████████████████████████████████▍ | 6764/12000 [26:03<19:53, 4.39it/s]
train loss:0.0021627961169030916
56%|███████████████████████████████████████████▍ | 6765/12000 [26:04<19:40, 4.43it/s]
train loss:0.001071615785696055
56%|███████████████████████████████████████████▍ | 6766/12000 [26:04<19:47, 4.41it/s]
train loss:0.003371059205326789
56%|███████████████████████████████████████████▍ | 6767/12000 [26:04<19:48, 4.40it/s]
train loss:0.0027149006609108583
56%|███████████████████████████████████████████▍ | 6768/12000 [26:04<19:49, 4.40it/s]
train loss:0.005202178897610571
56%|███████████████████████████████████████████▍ | 6769/12000 [26:05<19:48, 4.40it/s]
train loss:0.000824195794633152
56%|███████████████████████████████████████████▍ | 6770/12000 [26:05<19:32, 4.46it/s]
train loss:0.002906317112053356
56%|███████████████████████████████████████████▍ | 6771/12000 [26:05<19:45, 4.41it/s]
train loss:0.007274531154550009
56%|███████████████████████████████████████████▍ | 6772/12000 [26:05<19:46, 4.41it/s]
train loss:0.008781996278772913
56%|███████████████████████████████████████████▍ | 6773/12000 [26:05<19:48, 4.40it/s]
train loss:0.001232621386429735
56%|███████████████████████████████████████████▍ | 6774/12000 [26:06<19:38, 4.43it/s]
train loss:0.004390161226271071
56%|███████████████████████████████████████████▍ | 6775/12000 [26:06<19:47, 4.40it/s]
train loss:0.001645967549259974
56%|███████████████████████████████████████████▍ | 6776/12000 [26:06<19:48, 4.40it/s]
train loss:0.00025325968162752036
56%|███████████████████████████████████████████▍ | 6777/12000 [26:06<20:02, 4.34it/s]
train loss:0.004065220556550799
56%|███████████████████████████████████████████▍ | 6778/12000 [26:07<19:50, 4.39it/s]
train loss:0.0006171566474151703
56%|███████████████████████████████████████████▍ | 6779/12000 [26:07<19:53, 4.37it/s]
train loss:0.0005115459508336864
56%|███████████████████████████████████████████▌ | 6780/12000 [26:07<19:52, 4.38it/s]
train loss:0.0009571914685538863
57%|███████████████████████████████████████████▌ | 6781/12000 [26:07<19:56, 4.36it/s]
train loss:0.002728529010218447
57%|███████████████████████████████████████████▌ | 6782/12000 [26:08<19:56, 4.36it/s]
train loss:0.005618373034338023
57%|███████████████████████████████████████████▌ | 6783/12000 [26:08<19:50, 4.38it/s]
train loss:0.0014654165411280764
57%|███████████████████████████████████████████▌ | 6784/12000 [26:08<20:04, 4.33it/s]
train loss:0.0023482464109763398
57%|███████████████████████████████████████████▌ | 6785/12000 [26:08<19:58, 4.35it/s]
train loss:0.03431609863836339
57%|███████████████████████████████████████████▌ | 6786/12000 [26:08<19:56, 4.36it/s]
train loss:0.0016423987397665108
57%|███████████████████████████████████████████▌ | 6787/12000 [26:09<19:42, 4.41it/s]
train loss:0.0009440346646635655
57%|███████████████████████████████████████████▌ | 6788/12000 [26:09<19:44, 4.40it/s]
train loss:0.0008837923110942887
57%|███████████████████████████████████████████▌ | 6789/12000 [26:09<19:53, 4.36it/s]
train loss:0.004674802128200498
57%|███████████████████████████████████████████▌ | 6790/12000 [26:09<19:52, 4.37it/s]
train loss:0.0011243526435391353
57%|███████████████████████████████████████████▌ | 6791/12000 [26:10<19:57, 4.35it/s]
train loss:0.0029309570523994295
57%|███████████████████████████████████████████▌ | 6792/12000 [26:10<19:48, 4.38it/s]
train loss:0.0014181591517959658
57%|███████████████████████████████████████████▌ | 6793/12000 [26:10<19:48, 4.38it/s]
train loss:0.0003482068514272886
57%|███████████████████████████████████████████▌ | 6794/12000 [26:10<19:52, 4.37it/s]
train loss:0.00022368720748992027
57%|███████████████████████████████████████████▌ | 6795/12000 [26:11<19:49, 4.38it/s]
train loss:0.0015111016112696832
57%|███████████████████████████████████████████▌ | 6796/12000 [26:11<19:31, 4.44it/s]
train loss:0.0004692250132740752
57%|███████████████████████████████████████████▌ | 6797/12000 [26:11<19:33, 4.43it/s]
train loss:0.0018685902019913616
57%|███████████████████████████████████████████▌ | 6798/12000 [26:11<19:36, 4.42it/s]
train loss:0.0006881713448654513
57%|███████████████████████████████████████████▋ | 6799/12000 [26:11<19:51, 4.36it/s]
train loss:0.004958220683481549
57%|███████████████████████████████████████████▋ | 6800/12000 [26:12<19:36, 4.42it/s]
train loss:0.0004818540289005002
57%|███████████████████████████████████████████▋ | 6801/12000 [26:12<19:36, 4.42it/s]
train loss:0.008351428929828916
57%|███████████████████████████████████████████▋ | 6802/12000 [26:12<19:43, 4.39it/s]
train loss:0.001303722577312801
57%|███████████████████████████████████████████▋ | 6803/12000 [26:12<19:47, 4.38it/s]
train loss:0.0048703614840585755
57%|███████████████████████████████████████████▋ | 6804/12000 [26:13<20:01, 4.32it/s]
train loss:0.001069138747326245
57%|███████████████████████████████████████████▋ | 6805/12000 [26:13<19:38, 4.41it/s]
train loss:0.004372888171861451
57%|███████████████████████████████████████████▋ | 6806/12000 [26:13<19:27, 4.45it/s]
train loss:0.00586888225990495
57%|███████████████████████████████████████████▋ | 6807/12000 [26:13<19:37, 4.41it/s]
train loss:0.002122658231974983
57%|███████████████████████████████████████████▋ | 6808/12000 [26:13<19:48, 4.37it/s]
train loss:0.002713205835686397
57%|███████████████████████████████████████████▋ | 6809/12000 [26:14<19:45, 4.38it/s]
train loss:0.003856516378033674
57%|███████████████████████████████████████████▋ | 6810/12000 [26:14<19:59, 4.33it/s]
train loss:0.0023346637297793262
57%|███████████████████████████████████████████▋ | 6811/12000 [26:14<19:54, 4.34it/s]
train loss:0.0013331088320897356
57%|███████████████████████████████████████████▋ | 6812/12000 [26:14<20:13, 4.28it/s]
train loss:0.005406237960081288
57%|███████████████████████████████████████████▋ | 6813/12000 [26:15<20:46, 4.16it/s]
train loss:0.007273863488262446
57%|███████████████████████████████████████████▋ | 6814/12000 [26:15<20:28, 4.22it/s]
train loss:0.006838686165987997
57%|███████████████████████████████████████████▋ | 6815/12000 [26:15<20:17, 4.26it/s]
train loss:0.003951519719736136
57%|███████████████████████████████████████████▋ | 6816/12000 [26:15<20:12, 4.28it/s]
train loss:0.006906351446503433
57%|███████████████████████████████████████████▋ | 6817/12000 [26:16<20:03, 4.31it/s]
train loss:0.0048282039263631785
57%|███████████████████████████████████████████▋ | 6818/12000 [26:16<19:47, 4.37it/s]
train loss:0.0016123025155075346
57%|███████████████████████████████████████████▊ | 6819/12000 [26:16<19:48, 4.36it/s]
train loss:0.0016688463114045012
57%|███████████████████████████████████████████▊ | 6820/12000 [26:16<19:49, 4.35it/s]
train loss:0.0012433028183815014
57%|███████████████████████████████████████████▊ | 6821/12000 [26:16<20:05, 4.30it/s]
train loss:0.00043069994142262507
57%|███████████████████████████████████████████▊ | 6822/12000 [26:17<19:59, 4.32it/s]
train loss:0.004746311616226885
57%|███████████████████████████████████████████▊ | 6823/12000 [26:17<20:35, 4.19it/s]
train loss:0.0013682859988068943
57%|███████████████████████████████████████████▊ | 6824/12000 [26:17<21:19, 4.05it/s]
train loss:0.004793105837815393
57%|███████████████████████████████████████████▊ | 6825/12000 [26:18<22:07, 3.90it/s]
train loss:0.00016996744043086106
57%|███████████████████████████████████████████▊ | 6826/12000 [26:18<22:21, 3.86it/s]
train loss:0.000672043803427226
57%|███████████████████████████████████████████▊ | 6827/12000 [26:18<21:54, 3.94it/s]
train loss:0.0029928885507836877
57%|███████████████████████████████████████████▊ | 6828/12000 [26:18<22:14, 3.88it/s]
train loss:0.007552919439763895
57%|███████████████████████████████████████████▊ | 6829/12000 [26:19<22:19, 3.86it/s]
train loss:0.004867346438013499
57%|███████████████████████████████████████████▊ | 6830/12000 [26:19<22:12, 3.88it/s]
train loss:0.00161373542216672
57%|███████████████████████████████████████████▊ | 6831/12000 [26:19<22:42, 3.79it/s]
train loss:0.0090622420842432
57%|███████████████████████████████████████████▊ | 6832/12000 [26:19<23:03, 3.74it/s]
train loss:0.0023787299945625213
57%|███████████████████████████████████████████▊ | 6833/12000 [26:20<22:35, 3.81it/s]
train loss:0.00027062397452597343
57%|███████████████████████████████████████████▊ | 6834/12000 [26:20<22:04, 3.90it/s]
train loss:0.01944267526916095
57%|███████████████████████████████████████████▊ | 6835/12000 [26:20<22:23, 3.85it/s]
train loss:0.004453260354567674
57%|███████████████████████████████████████████▊ | 6836/12000 [26:20<22:15, 3.87it/s]
train loss:0.004137640841732639
57%|███████████████████████████████████████████▊ | 6837/12000 [26:21<21:43, 3.96it/s]
train loss:0.0020008807147154136
57%|███████████████████████████████████████████▉ | 6838/12000 [26:21<21:28, 4.01it/s]
train loss:0.001505107516016057
57%|███████████████████████████████████████████▉ | 6839/12000 [26:21<21:48, 3.94it/s]
train loss:0.002886552488754834
57%|███████████████████████████████████████████▉ | 6840/12000 [26:21<22:23, 3.84it/s]
train loss:0.0021382208546472524
57%|███████████████████████████████████████████▉ | 6841/12000 [26:22<22:16, 3.86it/s]
train loss:0.001268713043395622
57%|███████████████████████████████████████████▉ | 6842/12000 [26:22<22:20, 3.85it/s]
train loss:0.00035181406796388093
57%|███████████████████████████████████████████▉ | 6843/12000 [26:22<22:33, 3.81it/s]
train loss:0.00043109561092410665
57%|███████████████████████████████████████████▉ | 6844/12000 [26:22<22:08, 3.88it/s]
train loss:0.00048714401450860765
57%|███████████████████████████████████████████▉ | 6845/12000 [26:23<21:42, 3.96it/s]
train loss:0.0010450048375997539
57%|███████████████████████████████████████████▉ | 6846/12000 [26:23<21:32, 3.99it/s]
train loss:0.0168946839048922
57%|███████████████████████████████████████████▉ | 6847/12000 [26:23<21:27, 4.00it/s]
train loss:0.0034381808871656104
57%|███████████████████████████████████████████▉ | 6848/12000 [26:23<21:58, 3.91it/s]
train loss:0.020010611948936982
57%|███████████████████████████████████████████▉ | 6849/12000 [26:24<21:01, 4.08it/s]
train loss:0.00013661842035435744
57%|███████████████████████████████████████████▉ | 6850/12000 [26:24<20:35, 4.17it/s]
train loss:0.0009593091173668825
57%|███████████████████████████████████████████▉ | 6851/12000 [26:24<20:14, 4.24it/s]
train loss:0.0037310365219242847
57%|███████████████████████████████████████████▉ | 6852/12000 [26:24<20:01, 4.29it/s]
train loss:0.00887187924743465
57%|███████████████████████████████████████████▉ | 6853/12000 [26:25<19:55, 4.31it/s]
train loss:0.005238883872057893
57%|███████████████████████████████████████████▉ | 6854/12000 [26:25<19:38, 4.37it/s]
train loss:0.005325832032923842
57%|███████████████████████████████████████████▉ | 6855/12000 [26:25<19:40, 4.36it/s]
train loss:0.0014296434117325274
57%|███████████████████████████████████████████▉ | 6856/12000 [26:25<19:40, 4.36it/s]
train loss:0.003237564729656673
57%|███████████████████████████████████████████▉ | 6857/12000 [26:25<19:41, 4.35it/s]
train loss:0.0010686790261471696
57%|████████████████████████████████████████████ | 6858/12000 [26:26<19:28, 4.40it/s]
train loss:0.007152132428290814
57%|████████████████████████████████████████████ | 6859/12000 [26:26<19:32, 4.39it/s]
train loss:0.07654130259291442
57%|████████████████████████████████████████████ | 6860/12000 [26:26<19:24, 4.41it/s]
train loss:0.003481986268511761
57%|████████████████████████████████████████████ | 6861/12000 [26:26<19:42, 4.35it/s]
train loss:0.008889860963435046
57%|████████████████████████████████████████████ | 6862/12000 [26:27<19:36, 4.37it/s]
train loss:0.011458375866428457
57%|████████████████████████████████████████████ | 6863/12000 [26:27<19:29, 4.39it/s]
train loss:0.004062741807518293
57%|████████████████████████████████████████████ | 6864/12000 [26:27<19:41, 4.35it/s]
train loss:0.016853412367046544
57%|████████████████████████████████████████████ | 6865/12000 [26:27<19:48, 4.32it/s]
train loss:0.06524680026247562
57%|████████████████████████████████████████████ | 6866/12000 [26:28<19:49, 4.32it/s]
train loss:0.0043630215148057535
57%|████████████████████████████████████████████ | 6867/12000 [26:28<19:39, 4.35it/s]
train loss:0.0007585663523510418
57%|████████████████████████████████████████████ | 6868/12000 [26:28<19:37, 4.36it/s]
train loss:0.0022960650470534487
57%|████████████████████████████████████████████ | 6869/12000 [26:28<19:38, 4.35it/s]
train loss:0.007117371542291367
57%|████████████████████████████████████████████ | 6870/12000 [26:28<19:40, 4.34it/s]
train loss:0.0010760743348753466
57%|████████████████████████████████████████████ | 6871/12000 [26:29<19:49, 4.31it/s]
train loss:0.17088233842508135
57%|████████████████████████████████████████████ | 6872/12000 [26:29<19:50, 4.31it/s]
train loss:0.00010064148585816089
57%|████████████████████████████████████████████ | 6873/12000 [26:29<19:50, 4.31it/s]
train loss:0.0032864935246899878
57%|████████████████████████████████████████████ | 6874/12000 [26:29<19:51, 4.30it/s]
train loss:0.001801634455758837
57%|████████████████████████████████████████████ | 6875/12000 [26:30<19:52, 4.30it/s]
train loss:0.004371422314006323
57%|████████████████████████████████████████████ | 6876/12000 [26:30<19:52, 4.30it/s]
train loss:0.01498867860519342
57%|████████████████████████████████████████████▏ | 6877/12000 [26:30<19:51, 4.30it/s]
train loss:0.0021135156957449368
57%|████████████████████████████████████████████▏ | 6878/12000 [26:30<19:32, 4.37it/s]
train loss:0.00024249297843032832
57%|████████████████████████████████████████████▏ | 6879/12000 [26:31<19:34, 4.36it/s]
train loss:0.005545475752066233
57%|████████████████████████████████████████████▏ | 6880/12000 [26:31<19:17, 4.42it/s]
train loss:0.0006112677852771489
57%|████████████████████████████████████████████▏ | 6881/12000 [26:31<19:13, 4.44it/s]
train loss:0.002997798416330912
57%|████████████████████████████████████████████▏ | 6882/12000 [26:31<19:21, 4.41it/s]
train loss:0.0064929351687006975
57%|████████████████████████████████████████████▏ | 6883/12000 [26:31<19:23, 4.40it/s]
train loss:0.0023104369143908273
57%|████████████████████████████████████████████▏ | 6884/12000 [26:32<19:09, 4.45it/s]
train loss:0.0057885989138875445
57%|████████████████████████████████████████████▏ | 6885/12000 [26:32<19:15, 4.43it/s]
train loss:0.01687769525193512
57%|████████████████████████████████████████████▏ | 6886/12000 [26:32<19:16, 4.42it/s]
train loss:0.012877150564833472
57%|████████████████████████████████████████████▏ | 6887/12000 [26:32<19:19, 4.41it/s]
train loss:0.006312735783808323
57%|████████████████████████████████████████████▏ | 6888/12000 [26:33<19:15, 4.42it/s]
train loss:0.0029375391847873207
57%|████████████████████████████████████████████▏ | 6889/12000 [26:33<19:09, 4.44it/s]
train loss:0.003205890069526684
57%|████████████████████████████████████████████▏ | 6890/12000 [26:33<19:16, 4.42it/s]
train loss:0.0055101373415443
57%|████████████████████████████████████████████▏ | 6891/12000 [26:33<19:18, 4.41it/s]
train loss:0.04574789872376686
57%|████████████████████████████████████████████▏ | 6892/12000 [26:33<19:20, 4.40it/s]
train loss:0.008311135192755538
57%|████████████████████████████████████████████▏ | 6893/12000 [26:34<19:08, 4.45it/s]
train loss:0.006330519105787168
57%|████████████████████████████████████████████▏ | 6894/12000 [26:34<19:01, 4.47it/s]
train loss:0.0017898992280563097
57%|████████████████████████████████████████████▏ | 6895/12000 [26:34<19:19, 4.40it/s]
train loss:0.016141210299492247
57%|████████████████████████████████████████████▏ | 6896/12000 [26:34<19:18, 4.41it/s]
train loss:0.0028588538761420965
57%|████████████████████████████████████████████▎ | 6897/12000 [26:35<19:15, 4.42it/s]
train loss:0.001490637490067637
57%|████████████████████████████████████████████▎ | 6898/12000 [26:35<19:13, 4.42it/s]
train loss:0.001012074094206685
57%|████████████████████████████████████████████▎ | 6899/12000 [26:35<19:17, 4.41it/s]
train loss:0.01071839532721163
57%|████████████████████████████████████████████▎ | 6900/12000 [26:35<19:16, 4.41it/s]
train loss:0.0027023092767956155
58%|████████████████████████████████████████████▎ | 6901/12000 [26:36<19:38, 4.33it/s]
train loss:0.0056977956829371325
58%|████████████████████████████████████████████▎ | 6902/12000 [26:36<19:38, 4.33it/s]
train loss:0.011281712576320064
58%|████████████████████████████████████████████▎ | 6903/12000 [26:36<19:41, 4.31it/s]
train loss:0.015442495453450895
58%|████████████████████████████████████████████▎ | 6904/12000 [26:36<20:47, 4.08it/s]
train loss:0.0050348096599621694
58%|████████████████████████████████████████████▎ | 6905/12000 [26:37<21:37, 3.93it/s]
train loss:0.010791110581571181
58%|████████████████████████████████████████████▎ | 6906/12000 [26:37<21:00, 4.04it/s]
train loss:0.004288577765202129
58%|████████████████████████████████████████████▎ | 6907/12000 [26:37<20:32, 4.13it/s]
train loss:0.00528821206240301
58%|████████████████████████████████████████████▎ | 6908/12000 [26:37<21:23, 3.97it/s]
train loss:0.0058077003533057395
58%|████████████████████████████████████████████▎ | 6909/12000 [26:38<21:58, 3.86it/s]
train loss:0.024951617769295536
58%|████████████████████████████████████████████▎ | 6910/12000 [26:38<22:07, 3.84it/s]
train loss:0.0015540728207934398
58%|████████████████████████████████████████████▎ | 6911/12000 [26:38<22:26, 3.78it/s]
train loss:0.007886566093006751
58%|████████████████████████████████████████████▎ | 6912/12000 [26:38<22:38, 3.75it/s]
train loss:0.006325172688780161
58%|████████████████████████████████████████████▎ | 6913/12000 [26:39<22:43, 3.73it/s]
train loss:0.006256714487522193
58%|████████████████████████████████████████████▎ | 6914/12000 [26:39<22:47, 3.72it/s]
train loss:0.0017402165537221453
58%|████████████████████████████████████████████▎ | 6915/12000 [26:39<22:59, 3.69it/s]
train loss:0.0007465433912253948
58%|████████████████████████████████████████████▍ | 6916/12000 [26:39<22:52, 3.70it/s]
train loss:0.00988492967972391
58%|████████████████████████████████████████████▍ | 6917/12000 [26:40<22:36, 3.75it/s]
train loss:0.008958008939436587
58%|████████████████████████████████████████████▍ | 6918/12000 [26:40<22:46, 3.72it/s]
train loss:0.0035210698739144286
58%|████████████████████████████████████████████▍ | 6919/12000 [26:40<22:23, 3.78it/s]
train loss:0.00369482862349165
58%|████████████████████████████████████████████▍ | 6920/12000 [26:40<21:31, 3.93it/s]
train loss:0.0022457347083910976
58%|████████████████████████████████████████████▍ | 6921/12000 [26:41<20:47, 4.07it/s]
train loss:0.002217225275748128
58%|████████████████████████████████████████████▍ | 6922/12000 [26:41<20:19, 4.16it/s]
train loss:0.0009542788286747978
58%|████████████████████████████████████████████▍ | 6923/12000 [26:41<19:59, 4.23it/s]
train loss:0.0022818896572158673
58%|████████████████████████████████████████████▍ | 6924/12000 [26:41<19:46, 4.28it/s]
train loss:0.015009060023081023
58%|████████████████████████████████████████████▍ | 6925/12000 [26:42<19:32, 4.33it/s]
train loss:0.007769315442181746
58%|████████████████████████████████████████████▍ | 6926/12000 [26:42<19:34, 4.32it/s]
train loss:0.004964200667381686
58%|████████████████████████████████████████████▍ | 6927/12000 [26:42<19:47, 4.27it/s]
train loss:0.007987357504664167
58%|████████████████████████████████████████████▍ | 6928/12000 [26:42<19:41, 4.29it/s]
train loss:0.0015298254974920023
58%|████████████████████████████████████████████▍ | 6929/12000 [26:43<20:05, 4.21it/s]
train loss:0.029830562583991034
58%|████████████████████████████████████████████▍ | 6930/12000 [26:43<19:52, 4.25it/s]
train loss:0.0014185030539415277
58%|████████████████████████████████████████████▍ | 6931/12000 [26:43<20:55, 4.04it/s]
train loss:0.009464720690271091
58%|████████████████████████████████████████████▍ | 6932/12000 [26:43<21:35, 3.91it/s]
train loss:0.001897256064441999
58%|████████████████████████████████████████████▍ | 6933/12000 [26:44<22:02, 3.83it/s]
train loss:0.010453977743351342
58%|████████████████████████████████████████████▍ | 6934/12000 [26:44<22:21, 3.78it/s]
train loss:0.005261743131349658
58%|████████████████████████████████████████████▍ | 6935/12000 [26:44<22:40, 3.72it/s]
train loss:0.006884695425769812
58%|████████████████████████████████████████████▌ | 6936/12000 [26:44<22:31, 3.75it/s]
train loss:0.022030193235714708
58%|████████████████████████████████████████████▌ | 6937/12000 [26:45<21:31, 3.92it/s]
train loss:0.0018020445936535745
58%|████████████████████████████████████████████▌ | 6938/12000 [26:45<20:58, 4.02it/s]
train loss:0.006820933004093121
58%|████████████████████████████████████████████▌ | 6939/12000 [26:45<20:44, 4.07it/s]
train loss:0.007616316648354831
58%|████████████████████████████████████████████▌ | 6940/12000 [26:45<20:17, 4.15it/s]
train loss:0.017138133249501683
58%|████████████████████████████████████████████▌ | 6941/12000 [26:46<20:14, 4.17it/s]
train loss:0.014215970395310034
58%|████████████████████████████████████████████▌ | 6942/12000 [26:46<20:03, 4.20it/s]
train loss:0.000377686759838265
58%|████████████████████████████████████████████▌ | 6943/12000 [26:46<19:57, 4.22it/s]
train loss:0.0023562771429277217
58%|████████████████████████████████████████████▌ | 6944/12000 [26:46<20:15, 4.16it/s]
train loss:0.004702520547601481
58%|████████████████████████████████████████████▌ | 6945/12000 [26:47<20:52, 4.04it/s]
train loss:0.00961272892949856
58%|████████████████████████████████████████████▌ | 6946/12000 [26:47<20:14, 4.16it/s]
train loss:0.03785909695613973
58%|████████████████████████████████████████████▌ | 6947/12000 [26:47<20:00, 4.21it/s]
train loss:0.006903165863427723
58%|████████████████████████████████████████████▌ | 6948/12000 [26:47<19:49, 4.25it/s]
train loss:0.003356460610006896
58%|████████████████████████████████████████████▌ | 6949/12000 [26:48<19:50, 4.24it/s]
train loss:0.005316540824079715
58%|████████████████████████████████████████████▌ | 6950/12000 [26:48<19:14, 4.37it/s]
train loss:0.0026045328313187783
58%|████████████████████████████████████████████▌ | 6951/12000 [26:48<19:34, 4.30it/s]
train loss:0.0008070630539883949
58%|████████████████████████████████████████████▌ | 6952/12000 [26:48<19:27, 4.32it/s]
train loss:0.0027267431116228284
58%|████████████████████████████████████████████▌ | 6953/12000 [26:48<19:25, 4.33it/s]
train loss:0.001642472625744548
58%|████████████████████████████████████████████▌ | 6954/12000 [26:49<19:13, 4.37it/s]
train loss:0.0013252159661098011
58%|████████████████████████████████████████████▋ | 6955/12000 [26:49<19:10, 4.39it/s]
train loss:0.014431335390490446
58%|████████████████████████████████████████████▋ | 6956/12000 [26:49<19:10, 4.39it/s]
train loss:0.0037454505647998904
58%|████████████████████████████████████████████▋ | 6957/12000 [26:49<19:09, 4.39it/s]
train loss:0.003853935887866689
58%|████████████████████████████████████████████▋ | 6958/12000 [26:50<19:13, 4.37it/s]
train loss:0.005986611791339115
58%|████████████████████████████████████████████▋ | 6959/12000 [26:50<20:19, 4.13it/s]
train loss:0.0005336764006574402
58%|████████████████████████████████████████████▋ | 6960/12000 [26:50<21:19, 3.94it/s]
train loss:0.007688728158303113
58%|████████████████████████████████████████████▋ | 6961/12000 [26:50<21:59, 3.82it/s]
train loss:0.00844513761743474
58%|████████████████████████████████████████████▋ | 6962/12000 [26:51<21:03, 3.99it/s]
train loss:0.0012903911574993834
58%|████████████████████████████████████████████▋ | 6963/12000 [26:51<20:29, 4.10it/s]
train loss:0.008679514514542878
58%|████████████████████████████████████████████▋ | 6964/12000 [26:51<20:03, 4.19it/s]
train loss:0.01412871563745417
58%|████████████████████████████████████████████▋ | 6965/12000 [26:51<19:50, 4.23it/s]
train loss:0.011281672565735172
58%|████████████████████████████████████████████▋ | 6966/12000 [26:52<19:48, 4.23it/s]
train loss:0.0070356131504220746
58%|████████████████████████████████████████████▋ | 6967/12000 [26:52<20:47, 4.03it/s]
train loss:0.00034944551314190276
58%|████████████████████████████████████████████▋ | 6968/12000 [26:52<20:15, 4.14it/s]
train loss:0.0006418535439470772
58%|████████████████████████████████████████████▋ | 6969/12000 [26:52<19:54, 4.21it/s]
train loss:0.0038708751331294265
58%|████████████████████████████████████████████▋ | 6970/12000 [26:53<19:56, 4.21it/s]
train loss:0.0060491918771116955
58%|████████████████████████████████████████████▋ | 6971/12000 [26:53<19:26, 4.31it/s]
train loss:0.006315332106305887
58%|████████████████████████████████████████████▋ | 6972/12000 [26:53<19:22, 4.33it/s]
train loss:0.008313762652896232
58%|████████████████████████████████████████████▋ | 6973/12000 [26:53<19:16, 4.35it/s]
train loss:0.0038192038777670485
58%|████████████████████████████████████████████▋ | 6974/12000 [26:53<19:12, 4.36it/s]
train loss:0.006672571939484169
58%|████████████████████████████████████████████▊ | 6975/12000 [26:54<19:06, 4.38it/s]
train loss:0.0003347816266611976
58%|████████████████████████████████████████████▊ | 6976/12000 [26:54<19:00, 4.40it/s]
train loss:0.01495085491273161
58%|████████████████████████████████████████████▊ | 6977/12000 [26:54<19:01, 4.40it/s]
train loss:0.003531722405372509
58%|████████████████████████████████████████████▊ | 6978/12000 [26:54<20:19, 4.12it/s]
train loss:0.0015365926192038336
58%|████████████████████████████████████████████▊ | 6979/12000 [26:55<20:06, 4.16it/s]
train loss:0.0048548274026142
58%|████████████████████████████████████████████▊ | 6980/12000 [26:55<20:50, 4.01it/s]
train loss:0.003420152248928256
58%|████████████████████████████████████████████▊ | 6981/12000 [26:55<20:58, 3.99it/s]
train loss:0.0014387326670165172
58%|████████████████████████████████████████████▊ | 6982/12000 [26:55<20:30, 4.08it/s]
train loss:0.0060680949158638696
58%|████████████████████████████████████████████▊ | 6983/12000 [26:56<21:08, 3.95it/s]
train loss:0.0039540332505471265
58%|████████████████████████████████████████████▊ | 6984/12000 [26:56<21:41, 3.85it/s]
train loss:0.0006785970183705853
58%|████████████████████████████████████████████▊ | 6985/12000 [26:56<21:26, 3.90it/s]
train loss:0.00484332441259518
58%|████████████████████████████████████████████▊ | 6986/12000 [26:56<20:44, 4.03it/s]
train loss:0.0012535539191358743
58%|████████████████████████████████████████████▊ | 6987/12000 [26:57<20:06, 4.16it/s]
train loss:0.005918502313692239
58%|████████████████████████████████████████████▊ | 6988/12000 [26:57<19:36, 4.26it/s]
train loss:0.002510458702100189
58%|████████████████████████████████████████████▊ | 6989/12000 [26:57<19:26, 4.30it/s]
train loss:0.001440339541940969
58%|████████████████████████████████████████████▊ | 6990/12000 [26:57<19:16, 4.33it/s]
train loss:0.02380413355963904
58%|████████████████████████████████████████████▊ | 6991/12000 [26:58<19:11, 4.35it/s]
train loss:0.009748833311797475
58%|████████████████████████████████████████████▊ | 6992/12000 [26:58<18:55, 4.41it/s]
train loss:0.0026948675109361537
58%|████████████████████████████████████████████▊ | 6993/12000 [26:58<18:57, 4.40it/s]
train loss:0.10656685438395368
58%|████████████████████████████████████████████▉ | 6994/12000 [26:58<19:02, 4.38it/s]
train loss:0.007538677891421994
58%|████████████████████████████████████████████▉ | 6995/12000 [26:58<18:59, 4.39it/s]
train loss:0.028376050838909858
58%|████████████████████████████████████████████▉ | 6996/12000 [26:59<18:48, 4.43it/s]
train loss:0.0006457698732420408
58%|████████████████████████████████████████████▉ | 6997/12000 [26:59<18:47, 4.44it/s]
train loss:0.0018079157944939303
58%|████████████████████████████████████████████▉ | 6998/12000 [26:59<18:48, 4.43it/s]
train loss:0.0074401912920171705
58%|████████████████████████████████████████████▉ | 6999/12000 [26:59<18:39, 4.47it/s]
train loss:0.005558949216151699
58%|████████████████████████████████████████████▉ | 7000/12000 [27:00<18:46, 4.44it/s]
train loss:0.011683791857740928
58%|████████████████████████████████████████████▉ | 7001/12000 [27:00<18:37, 4.48it/s]
train loss:0.003622704229033533
58%|████████████████████████████████████████████▉ | 7002/12000 [27:00<18:43, 4.45it/s]
train loss:0.0027891073002487233
58%|████████████████████████████████████████████▉ | 7003/12000 [27:00<18:48, 4.43it/s]
train loss:0.004584960839945304
58%|████████████████████████████████████████████▉ | 7004/12000 [27:00<18:57, 4.39it/s]
train loss:0.011214895801836607
58%|████████████████████████████████████████████▉ | 7005/12000 [27:01<18:46, 4.43it/s]
train loss:0.004087314984410427
58%|████████████████████████████████████████████▉ | 7006/12000 [27:01<19:09, 4.34it/s]
train loss:0.0032517419141481047
58%|████████████████████████████████████████████▉ | 7007/12000 [27:01<20:07, 4.14it/s]
train loss:0.0012609248162769482
58%|████████████████████████████████████████████▉ | 7008/12000 [27:01<19:48, 4.20it/s]
train loss:0.0038580826483409847
58%|████████████████████████████████████████████▉ | 7009/12000 [27:02<19:27, 4.27it/s]
train loss:0.0080196659349246
58%|████████████████████████████████████████████▉ | 7010/12000 [27:02<19:12, 4.33it/s]
train loss:0.0018704048969170638
58%|████████████████████████████████████████████▉ | 7011/12000 [27:02<19:06, 4.35it/s]
train loss:0.008521918553627965
58%|████████████████████████████████████████████▉ | 7012/12000 [27:02<18:58, 4.38it/s]
train loss:0.015857226640871677
58%|█████████████████████████████████████████████ | 7013/12000 [27:03<18:58, 4.38it/s]
train loss:0.0017276642003793213
58%|█████████████████████████████████████████████ | 7014/12000 [27:03<18:44, 4.43it/s]
train loss:0.0074955393997835785
58%|█████████████████████████████████████████████ | 7015/12000 [27:03<18:46, 4.43it/s]
train loss:0.002778934509556826
58%|█████████████████████████████████████████████ | 7016/12000 [27:03<18:48, 4.42it/s]
train loss:0.004519139316277531
58%|█████████████████████████████████████████████ | 7017/12000 [27:03<18:48, 4.42it/s]
train loss:0.0018727312127673975
58%|█████████████████████████████████████████████ | 7018/12000 [27:04<18:34, 4.47it/s]
train loss:0.0008271266054060527
58%|█████████████████████████████████████████████ | 7019/12000 [27:04<18:41, 4.44it/s]
train loss:0.007729643058930368
58%|█████████████████████████████████████████████ | 7020/12000 [27:04<18:43, 4.43it/s]
train loss:0.02137425286310031
59%|█████████████████████████████████████████████ | 7021/12000 [27:04<18:44, 4.43it/s]
train loss:0.004703301518211036
59%|█████████████████████████████████████████████ | 7022/12000 [27:05<18:49, 4.41it/s]
train loss:0.0010020888625719537
59%|█████████████████████████████████████████████ | 7023/12000 [27:05<18:40, 4.44it/s]
train loss:0.0075578852132659425
59%|█████████████████████████████████████████████ | 7024/12000 [27:05<18:41, 4.44it/s]
train loss:0.0019694667167875404
59%|█████████████████████████████████████████████ | 7025/12000 [27:05<18:43, 4.43it/s]
train loss:0.002462488308733482
59%|█████████████████████████████████████████████ | 7026/12000 [27:05<18:51, 4.40it/s]
train loss:0.006332301875435693
59%|█████████████████████████████████████████████ | 7027/12000 [27:06<18:42, 4.43it/s]
train loss:0.012635427381497364
59%|█████████████████████████████████████████████ | 7028/12000 [27:06<18:50, 4.40it/s]
train loss:0.0006926430220037468
59%|█████████████████████████████████████████████ | 7029/12000 [27:06<18:54, 4.38it/s]
train loss:0.008799534028438994
59%|█████████████████████████████████████████████ | 7030/12000 [27:06<19:00, 4.36it/s]
train loss:0.0007437945429989886
59%|█████████████████████████████████████████████ | 7031/12000 [27:07<18:53, 4.38it/s]
train loss:0.002225642413177871
59%|█████████████████████████████████████████████ | 7032/12000 [27:07<18:43, 4.42it/s]
train loss:0.011986922408330502
59%|█████████████████████████████████████████████▏ | 7033/12000 [27:07<18:51, 4.39it/s]
train loss:0.012673987217380656
59%|█████████████████████████████████████████████▏ | 7034/12000 [27:07<19:09, 4.32it/s]
train loss:0.005315216749472638
59%|█████████████████████████████████████████████▏ | 7035/12000 [27:08<19:13, 4.30it/s]
train loss:0.0011924828609719835
59%|█████████████████████████████████████████████▏ | 7036/12000 [27:08<19:03, 4.34it/s]
train loss:0.0008322286888722582
59%|█████████████████████████████████████████████▏ | 7037/12000 [27:08<20:12, 4.09it/s]
train loss:0.0011383006873845808
59%|█████████████████████████████████████████████▏ | 7038/12000 [27:08<19:49, 4.17it/s]
train loss:0.0027701908172368082
59%|█████████████████████████████████████████████▏ | 7039/12000 [27:08<19:32, 4.23it/s]
train loss:0.0020715046268205977
59%|█████████████████████████████████████████████▏ | 7040/12000 [27:09<19:44, 4.19it/s]
train loss:0.0029070868315025484
59%|█████████████████████████████████████████████▏ | 7041/12000 [27:09<19:27, 4.25it/s]
train loss:0.0014542561551698693
59%|█████████████████████████████████████████████▏ | 7042/12000 [27:09<19:29, 4.24it/s]
train loss:0.007363664136367591
59%|█████████████████████████████████████████████▏ | 7043/12000 [27:09<19:16, 4.29it/s]
train loss:0.002548564488510302
59%|█████████████████████████████████████████████▏ | 7044/12000 [27:10<18:58, 4.35it/s]
train loss:0.008055353767711833
59%|█████████████████████████████████████████████▏ | 7045/12000 [27:10<18:54, 4.37it/s]
train loss:0.003146795266851074
59%|█████████████████████████████████████████████▏ | 7046/12000 [27:10<19:27, 4.24it/s]
train loss:0.0020680867772353362
59%|█████████████████████████████████████████████▏ | 7047/12000 [27:10<19:56, 4.14it/s]
train loss:0.006148133114397507
59%|█████████████████████████████████████████████▏ | 7048/12000 [27:11<20:40, 3.99it/s]
train loss:0.0012738772418447724
59%|█████████████████████████████████████████████▏ | 7049/12000 [27:11<21:10, 3.90it/s]
train loss:0.007224889402335863
59%|█████████████████████████████████████████████▏ | 7050/12000 [27:11<21:38, 3.81it/s]
train loss:0.0016385747039962988
59%|█████████████████████████████████████████████▏ | 7051/12000 [27:11<22:00, 3.75it/s]
train loss:0.0013727670066135853
59%|█████████████████████████████████████████████▎ | 7052/12000 [27:12<22:00, 3.75it/s]
train loss:0.0017681423641049937
59%|█████████████████████████████████████████████▎ | 7053/12000 [27:12<22:18, 3.70it/s]
train loss:0.0030737924506846494
59%|█████████████████████████████████████████████▎ | 7054/12000 [27:12<22:36, 3.65it/s]
train loss:0.0004015739914021071
59%|█████████████████████████████████████████████▎ | 7055/12000 [27:13<22:42, 3.63it/s]
train loss:0.0013983545812157772
59%|█████████████████████████████████████████████▎ | 7056/12000 [27:13<21:31, 3.83it/s]
train loss:0.0006349876015350553
59%|█████████████████████████████████████████████▎ | 7057/12000 [27:13<21:56, 3.75it/s]
train loss:0.00045553418683963345
59%|█████████████████████████████████████████████▎ | 7058/12000 [27:13<22:08, 3.72it/s]
train loss:0.002010857357139702
59%|█████████████████████████████████████████████▎ | 7059/12000 [27:14<22:13, 3.71it/s]
train loss:0.0009796226445508089
59%|█████████████████████████████████████████████▎ | 7060/12000 [27:14<21:14, 3.87it/s]
train loss:0.0004949449456823221
59%|█████████████████████████████████████████████▎ | 7061/12000 [27:14<20:41, 3.98it/s]
train loss:0.0013059335680054513
59%|█████████████████████████████████████████████▎ | 7062/12000 [27:14<21:00, 3.92it/s]
train loss:0.00288200634824647
59%|█████████████████████████████████████████████▎ | 7063/12000 [27:15<21:11, 3.88it/s]
train loss:0.019391600333386945
59%|█████████████████████████████████████████████▎ | 7064/12000 [27:15<21:49, 3.77it/s]
train loss:0.004115897177764307
59%|█████████████████████████████████████████████▎ | 7065/12000 [27:15<22:00, 3.74it/s]
train loss:0.0002998616960480047
59%|█████████████████████████████████████████████▎ | 7066/12000 [27:15<21:52, 3.76it/s]
train loss:0.002315972328766963
59%|█████████████████████████████████████████████▎ | 7067/12000 [27:16<22:02, 3.73it/s]
train loss:0.00037280649555748865
59%|█████████████████████████████████████████████▎ | 7068/12000 [27:16<22:00, 3.74it/s]
train loss:0.00384650871177507
59%|█████████████████████████████████████████████▎ | 7069/12000 [27:16<22:05, 3.72it/s]
train loss:0.000786458889046378
59%|█████████████████████████████████████████████▎ | 7070/12000 [27:16<21:32, 3.82it/s]
train loss:0.003299076049141996
59%|█████████████████████████████████████████████▎ | 7071/12000 [27:17<20:34, 3.99it/s]
train loss:0.0005112478002104612
59%|█████████████████████████████████████████████▍ | 7072/12000 [27:17<20:07, 4.08it/s]
train loss:0.0002147162547620635
59%|█████████████████████████████████████████████▍ | 7073/12000 [27:17<19:41, 4.17it/s]
train loss:0.0021476358619819565
59%|█████████████████████████████████████████████▍ | 7074/12000 [27:17<19:21, 4.24it/s]
train loss:0.004017552414568291
59%|█████████████████████████████████████████████▍ | 7075/12000 [27:18<19:08, 4.29it/s]
train loss:0.0006121616973675978
59%|█████████████████████████████████████████████▍ | 7076/12000 [27:18<18:34, 4.42it/s]
train loss:0.00021486157338768976
59%|█████████████████████████████████████████████▍ | 7077/12000 [27:18<18:37, 4.41it/s]
train loss:0.005010887231428349
59%|█████████████████████████████████████████████▍ | 7078/12000 [27:18<18:42, 4.39it/s]
train loss:0.0011224838065776377
59%|█████████████████████████████████████████████▍ | 7079/12000 [27:19<18:39, 4.40it/s]
train loss:0.001027820895249161
59%|█████████████████████████████████████████████▍ | 7080/12000 [27:19<18:42, 4.38it/s]
train loss:0.0025359315988499258
59%|█████████████████████████████████████████████▍ | 7081/12000 [27:19<18:41, 4.39it/s]
train loss:0.002812084690589583
59%|█████████████████████████████████████████████▍ | 7082/12000 [27:19<18:44, 4.37it/s]
train loss:0.003031123315907676
59%|█████████████████████████████████████████████▍ | 7083/12000 [27:19<18:32, 4.42it/s]
train loss:0.0024939586436009444
59%|█████████████████████████████████████████████▍ | 7084/12000 [27:20<18:26, 4.44it/s]
train loss:0.0013845628508149638
59%|█████████████████████████████████████████████▍ | 7085/12000 [27:20<18:42, 4.38it/s]
train loss:0.0012050707987970929
59%|█████████████████████████████████████████████▍ | 7086/12000 [27:20<18:43, 4.37it/s]
train loss:0.004757256833093953
59%|█████████████████████████████████████████████▍ | 7087/12000 [27:20<18:50, 4.34it/s]
train loss:0.004171719548261785
59%|█████████████████████████████████████████████▍ | 7088/12000 [27:21<18:49, 4.35it/s]
train loss:0.001387076545659039
59%|█████████████████████████████████████████████▍ | 7089/12000 [27:21<18:25, 4.44it/s]
train loss:0.00019884134013512731
59%|█████████████████████████████████████████████▍ | 7090/12000 [27:21<18:38, 4.39it/s]
train loss:0.0015875002129393764
59%|█████████████████████████████████████████████▌ | 7091/12000 [27:21<18:51, 4.34it/s]
train loss:0.004250517358987355
59%|█████████████████████████████████████████████▌ | 7092/12000 [27:22<18:43, 4.37it/s]
train loss:0.08475721729246137
59%|█████████████████████████████████████████████▌ | 7093/12000 [27:22<18:28, 4.43it/s]
train loss:0.003805197760447415
59%|█████████████████████████████████████████████▌ | 7094/12000 [27:22<18:40, 4.38it/s]
train loss:0.0014301766280152928
59%|█████████████████████████████████████████████▌ | 7095/12000 [27:22<18:47, 4.35it/s]
train loss:0.0030200441096911485
59%|█████████████████████████████████████████████▌ | 7096/12000 [27:22<18:44, 4.36it/s]
train loss:0.0026458100405854263
59%|█████████████████████████████████████████████▌ | 7097/12000 [27:23<18:27, 4.43it/s]
train loss:0.03131075403835967
59%|█████████████████████████████████████████████▌ | 7098/12000 [27:23<18:29, 4.42it/s]
train loss:0.006095519531644834
59%|█████████████████████████████████████████████▌ | 7099/12000 [27:23<18:42, 4.37it/s]
train loss:0.002210136880932733
59%|█████████████████████████████████████████████▌ | 7100/12000 [27:23<18:41, 4.37it/s]
train loss:0.02275704943822112
59%|█████████████████████████████████████████████▌ | 7101/12000 [27:24<18:36, 4.39it/s]
train loss:0.0025187434613341397
59%|█████████████████████████████████████████████▌ | 7102/12000 [27:24<18:10, 4.49it/s]
train loss:0.004270946031722453
59%|█████████████████████████████████████████████▌ | 7103/12000 [27:24<18:29, 4.41it/s]
train loss:0.0011407497263432583
59%|█████████████████████████████████████████████▌ | 7104/12000 [27:24<18:27, 4.42it/s]
train loss:0.003179812811686391
59%|█████████████████████████████████████████████▌ | 7105/12000 [27:24<18:29, 4.41it/s]
train loss:0.001729678628541239
59%|█████████████████████████████████████████████▌ | 7106/12000 [27:25<18:14, 4.47it/s]
train loss:0.0037860793817174137
59%|█████████████████████████████████████████████▌ | 7107/12000 [27:25<19:24, 4.20it/s]
train loss:0.004591145362192096
59%|█████████████████████████████████████████████▌ | 7108/12000 [27:25<19:36, 4.16it/s]
train loss:0.004841964883845202
59%|█████████████████████████████████████████████▌ | 7109/12000 [27:25<19:19, 4.22it/s]
train loss:0.016841852854962047
59%|█████████████████████████████████████████████▌ | 7110/12000 [27:26<18:54, 4.31it/s]
train loss:0.009273179418962187
59%|█████████████████████████████████████████████▋ | 7111/12000 [27:26<18:57, 4.30it/s]
train loss:0.002098365635289843
59%|█████████████████████████████████████████████▋ | 7112/12000 [27:26<18:44, 4.35it/s]
train loss:0.009691059035383181
59%|█████████████████████████████████████████████▋ | 7113/12000 [27:26<18:44, 4.35it/s]
train loss:0.000927339894575639
59%|█████████████████████████████████████████████▋ | 7114/12000 [27:27<18:41, 4.36it/s]
train loss:0.0037503656550888775
59%|█████████████████████████████████████████████▋ | 7115/12000 [27:27<18:26, 4.41it/s]
train loss:0.0019523066727502114
59%|█████████████████████████████████████████████▋ | 7116/12000 [27:27<18:36, 4.38it/s]
train loss:0.005208186293393774
59%|█████████████████████████████████████████████▋ | 7117/12000 [27:27<18:34, 4.38it/s]
train loss:0.0026230015535255134
59%|█████████████████████████████████████████████▋ | 7118/12000 [27:27<18:42, 4.35it/s]
train loss:0.007956681028230843
59%|█████████████████████████████████████████████▋ | 7119/12000 [27:28<18:34, 4.38it/s]
train loss:0.000439750452887491
59%|█████████████████████████████████████████████▋ | 7120/12000 [27:28<18:34, 4.38it/s]
train loss:0.0072321563129793265
59%|█████████████████████████████████████████████▋ | 7121/12000 [27:28<18:38, 4.36it/s]
train loss:0.002476605134130523
59%|█████████████████████████████████████████████▋ | 7122/12000 [27:28<18:38, 4.36it/s]
train loss:0.0019285283065066541
59%|█████████████████████████████████████████████▋ | 7123/12000 [27:29<18:34, 4.38it/s]
train loss:0.0007131675640341335
59%|█████████████████████████████████████████████▋ | 7124/12000 [27:29<18:25, 4.41it/s]
train loss:0.0007136123703046807
59%|█████████████████████████████████████████████▋ | 7125/12000 [27:29<18:21, 4.43it/s]
train loss:0.0006168324537535771
59%|█████████████████████████████████████████████▋ | 7126/12000 [27:29<18:35, 4.37it/s]
train loss:0.0012690489133511363
59%|█████████████████████████████████████████████▋ | 7127/12000 [27:30<18:40, 4.35it/s]
train loss:0.0062171381318223366
59%|█████████████████████████████████████████████▋ | 7128/12000 [27:30<18:23, 4.41it/s]
train loss:0.006244513090813518
59%|█████████████████████████████████████████████▋ | 7129/12000 [27:30<18:27, 4.40it/s]
train loss:0.012585679615401954
59%|█████████████████████████████████████████████▊ | 7130/12000 [27:30<18:31, 4.38it/s]
train loss:0.0005804848308084001
59%|█████████████████████████████████████████████▊ | 7131/12000 [27:30<18:31, 4.38it/s]
train loss:0.0013406137526027115
59%|█████████████████████████████████████████████▊ | 7132/12000 [27:31<18:14, 4.45it/s]
train loss:0.006585085930319307
59%|█████████████████████████████████████████████▊ | 7133/12000 [27:31<18:18, 4.43it/s]
train loss:0.0006356573060616823
59%|█████████████████████████████████████████████▊ | 7134/12000 [27:31<18:22, 4.41it/s]
train loss:0.0021481644249680704
59%|█████████████████████████████████████████████▊ | 7135/12000 [27:31<19:37, 4.13it/s]
train loss:0.004043709206022508
59%|█████████████████████████████████████████████▊ | 7136/12000 [27:32<20:18, 3.99it/s]
train loss:0.00867209499876087
59%|█████████████████████████████████████████████▊ | 7137/12000 [27:32<20:59, 3.86it/s]
train loss:0.0018432437541775622
59%|█████████████████████████████████████████████▊ | 7138/12000 [27:32<20:07, 4.03it/s]
train loss:0.0065802675625460764
59%|█████████████████████████████████████████████▊ | 7139/12000 [27:32<19:51, 4.08it/s]
train loss:0.002322882970145902
60%|█████████████████████████████████████████████▊ | 7140/12000 [27:33<19:33, 4.14it/s]
train loss:0.0011588195704225353
60%|█████████████████████████████████████████████▊ | 7141/12000 [27:33<19:16, 4.20it/s]
train loss:0.0002507584519850516
60%|█████████████████████████████████████████████▊ | 7142/12000 [27:33<19:11, 4.22it/s]
train loss:0.006228250559999584
60%|█████████████████████████████████████████████▊ | 7143/12000 [27:33<19:02, 4.25it/s]
train loss:0.008118200745773808
60%|█████████████████████████████████████████████▊ | 7144/12000 [27:34<18:59, 4.26it/s]
train loss:0.0013523526054286996
60%|█████████████████████████████████████████████▊ | 7145/12000 [27:34<18:47, 4.31it/s]
train loss:0.005149847365441778
60%|█████████████████████████████████████████████▊ | 7146/12000 [27:34<18:52, 4.29it/s]
train loss:0.000298074134348416
60%|█████████████████████████████████████████████▊ | 7147/12000 [27:34<18:26, 4.38it/s]
train loss:0.0006748250483297067
60%|█████████████████████████████████████████████▊ | 7148/12000 [27:34<18:43, 4.32it/s]
train loss:0.0018149715999240612
60%|█████████████████████████████████████████████▊ | 7149/12000 [27:35<18:25, 4.39it/s]
train loss:0.0002010193340519433
60%|█████████████████████████████████████████████▉ | 7150/12000 [27:35<18:15, 4.43it/s]
train loss:0.0016167675986183516
60%|█████████████████████████████████████████████▉ | 7151/12000 [27:35<18:29, 4.37it/s]
train loss:0.0019851996892321622
60%|█████████████████████████████████████████████▉ | 7152/12000 [27:35<18:24, 4.39it/s]
train loss:0.0013119402193596224
60%|█████████████████████████████████████████████▉ | 7153/12000 [27:36<18:23, 4.39it/s]
train loss:0.013913458957011422
60%|█████████████████████████████████████████████▉ | 7154/12000 [27:36<18:20, 4.40it/s]
train loss:0.012513850129860542
60%|█████████████████████████████████████████████▉ | 7155/12000 [27:36<18:22, 4.39it/s]
train loss:0.009552248542994324
60%|█████████████████████████████████████████████▉ | 7156/12000 [27:36<18:20, 4.40it/s]
train loss:0.02130281824429608
60%|█████████████████████████████████████████████▉ | 7157/12000 [27:37<18:22, 4.39it/s]
train loss:0.00029240678586016675
60%|█████████████████████████████████████████████▉ | 7158/12000 [27:37<19:12, 4.20it/s]
train loss:0.0022092119777773794
60%|█████████████████████████████████████████████▉ | 7159/12000 [27:37<19:19, 4.18it/s]
train loss:0.0005972776694496037
60%|█████████████████████████████████████████████▉ | 7160/12000 [27:37<19:21, 4.17it/s]
train loss:0.0007013528430646526
60%|█████████████████████████████████████████████▉ | 7161/12000 [27:38<19:35, 4.12it/s]
train loss:0.000667245510061171
60%|█████████████████████████████████████████████▉ | 7162/12000 [27:38<20:09, 4.00it/s]
train loss:0.014163108432229734
60%|█████████████████████████████████████████████▉ | 7163/12000 [27:38<20:08, 4.00it/s]
train loss:0.004198928275548538
60%|█████████████████████████████████████████████▉ | 7164/12000 [27:38<19:39, 4.10it/s]
train loss:0.005011460405040512
60%|█████████████████████████████████████████████▉ | 7165/12000 [27:38<19:14, 4.19it/s]
train loss:0.0033212794342706987
60%|█████████████████████████████████████████████▉ | 7166/12000 [27:39<19:32, 4.12it/s]
train loss:0.004711348183989414
60%|█████████████████████████████████████████████▉ | 7167/12000 [27:39<19:25, 4.15it/s]
train loss:0.0022924726576357348
60%|█████████████████████████████████████████████▉ | 7168/12000 [27:39<19:10, 4.20it/s]
train loss:0.0009559822901313501
60%|██████████████████████████████████████████████ | 7169/12000 [27:39<19:00, 4.24it/s]
train loss:0.0019415747106578509
60%|██████████████████████████████████████████████ | 7170/12000 [27:40<18:53, 4.26it/s]
train loss:0.003864503671929622
60%|██████████████████████████████████████████████ | 7171/12000 [27:40<18:54, 4.26it/s]
train loss:0.008059359604240375
60%|██████████████████████████████████████████████ | 7172/12000 [27:40<18:53, 4.26it/s]
train loss:0.0025003011454113964
60%|██████████████████████████████████████████████ | 7173/12000 [27:40<18:48, 4.28it/s]
train loss:0.004793142341301776
60%|██████████████████████████████████████████████ | 7174/12000 [27:41<18:44, 4.29it/s]
train loss:0.002962034113427961
60%|██████████████████████████████████████████████ | 7175/12000 [27:41<18:40, 4.31it/s]
train loss:0.004493993283795656
60%|██████████████████████████████████████████████ | 7176/12000 [27:41<18:30, 4.34it/s]
train loss:0.0005070482450885517
60%|██████████████████████████████████████████████ | 7177/12000 [27:41<18:25, 4.36it/s]
train loss:0.014425613771420176
60%|██████████████████████████████████████████████ | 7178/12000 [27:42<18:25, 4.36it/s]
train loss:0.05399077472800956
60%|██████████████████████████████████████████████ | 7179/12000 [27:42<18:08, 4.43it/s]
train loss:0.005342856706144242
60%|██████████████████████████████████████████████ | 7180/12000 [27:42<18:09, 4.42it/s]
train loss:0.006805776004335071
60%|██████████████████████████████████████████████ | 7181/12000 [27:42<17:54, 4.49it/s]
train loss:0.0021765759304591703
60%|██████████████████████████████████████████████ | 7182/12000 [27:42<18:03, 4.45it/s]
train loss:0.0006966992547180404
60%|██████████████████████████████████████████████ | 7183/12000 [27:43<18:00, 4.46it/s]
train loss:0.021373811213683213
60%|██████████████████████████████████████████████ | 7184/12000 [27:43<18:05, 4.44it/s]
train loss:0.0023101382108727526
60%|██████████████████████████████████████████████ | 7185/12000 [27:43<18:08, 4.42it/s]
train loss:0.0009695111175546185
60%|██████████████████████████████████████████████ | 7186/12000 [27:43<18:08, 4.42it/s]
train loss:0.0011731223872147511
60%|██████████████████████████████████████████████ | 7187/12000 [27:44<18:14, 4.40it/s]
train loss:0.025029100754864562
60%|██████████████████████████████████████████████ | 7188/12000 [27:44<18:03, 4.44it/s]
train loss:0.001218666443733993
60%|██████████████████████████████████████████████▏ | 7189/12000 [27:44<19:15, 4.16it/s]
train loss:0.0012301922241369572
60%|██████████████████████████████████████████████▏ | 7190/12000 [27:44<19:02, 4.21it/s]
train loss:0.0059724696277927295
60%|██████████████████████████████████████████████▏ | 7191/12000 [27:44<18:51, 4.25it/s]
train loss:0.004414643368233492
60%|██████████████████████████████████████████████▏ | 7192/12000 [27:45<18:31, 4.33it/s]
train loss:0.0019503720606962379
60%|██████████████████████████████████████████████▏ | 7193/12000 [27:45<18:27, 4.34it/s]
train loss:0.007208873167773228
60%|██████████████████████████████████████████████▏ | 7194/12000 [27:45<18:23, 4.36it/s]
train loss:0.005378328227627713
60%|██████████████████████████████████████████████▏ | 7195/12000 [27:45<19:26, 4.12it/s]
train loss:0.018377552780904072
60%|██████████████████████████████████████████████▏ | 7196/12000 [27:46<19:30, 4.10it/s]
train loss:0.004262833966055477
60%|██████████████████████████████████████████████▏ | 7197/12000 [27:46<19:06, 4.19it/s]
train loss:0.0005409266421410667
60%|██████████████████████████████████████████████▏ | 7198/12000 [27:46<18:49, 4.25it/s]
train loss:0.001591500291117474
60%|██████████████████████████████████████████████▏ | 7199/12000 [27:46<18:37, 4.30it/s]
train loss:0.020653652788616257
60%|██████████████████████████████████████████████▏ | 7200/12000 [27:47<18:28, 4.33it/s]
train loss:0.0024442173718853596 train loss:0.001827435143525058
60%|██████████████████████████████████████████████▏ | 7201/12000 [27:48<55:49, 1.43it/s]
=== epoch:13, train acc:0.994, test acc:0.987 ===
60%|██████████████████████████████████████████████▏ | 7202/12000 [27:49<44:29, 1.80it/s]
train loss:0.0014004448222866737
60%|██████████████████████████████████████████████▏ | 7203/12000 [27:49<36:29, 2.19it/s]
train loss:0.018668727556058026
60%|██████████████████████████████████████████████▏ | 7204/12000 [27:49<30:58, 2.58it/s]
train loss:0.00032779255359428406
60%|██████████████████████████████████████████████▏ | 7205/12000 [27:49<27:04, 2.95it/s]
train loss:0.0021304320882460687
60%|██████████████████████████████████████████████▏ | 7206/12000 [27:50<24:24, 3.27it/s]
train loss:0.004724950712140775
60%|██████████████████████████████████████████████▏ | 7207/12000 [27:50<23:15, 3.43it/s]
train loss:0.0016938682287743212
60%|██████████████████████████████████████████████▎ | 7208/12000 [27:50<21:42, 3.68it/s]
train loss:0.00036157447983153554
60%|██████████████████████████████████████████████▎ | 7209/12000 [27:50<20:38, 3.87it/s]
train loss:0.002166787311845513
60%|██████████████████████████████████████████████▎ | 7210/12000 [27:50<19:56, 4.00it/s]
train loss:0.000760390713125864
60%|██████████████████████████████████████████████▎ | 7211/12000 [27:51<19:53, 4.01it/s]
train loss:0.0033071864484175008
60%|██████████████████████████████████████████████▎ | 7212/12000 [27:51<19:23, 4.12it/s]
train loss:0.0028467214877815603
60%|██████████████████████████████████████████████▎ | 7213/12000 [27:51<19:02, 4.19it/s]
train loss:0.006074005482881564
60%|██████████████████████████████████████████████▎ | 7214/12000 [27:51<18:47, 4.25it/s]
train loss:0.0024169497606430545
60%|██████████████████████████████████████████████▎ | 7215/12000 [27:52<18:31, 4.31it/s]
train loss:0.005153241278357487
60%|██████████████████████████████████████████████▎ | 7216/12000 [27:52<18:19, 4.35it/s]
train loss:0.0029427386025468578
60%|██████████████████████████████████████████████▎ | 7217/12000 [27:52<18:16, 4.36it/s]
train loss:0.0015988647647375872
60%|██████████████████████████████████████████████▎ | 7218/12000 [27:52<18:16, 4.36it/s]
train loss:0.006164940183803259
60%|██████████████████████████████████████████████▎ | 7219/12000 [27:53<18:14, 4.37it/s]
train loss:0.0008438723081177796
60%|██████████████████████████████████████████████▎ | 7220/12000 [27:53<17:59, 4.43it/s]
train loss:0.0009772164477883794
60%|██████████████████████████████████████████████▎ | 7221/12000 [27:53<18:04, 4.41it/s]
train loss:0.007049030398764338
60%|██████████████████████████████████████████████▎ | 7222/12000 [27:53<18:06, 4.40it/s]
train loss:0.006783763392001941
60%|██████████████████████████████████████████████▎ | 7223/12000 [27:53<18:06, 4.40it/s]
train loss:0.00021109986001795124
60%|██████████████████████████████████████████████▎ | 7224/12000 [27:54<17:56, 4.44it/s]
train loss:0.012268519313213311
60%|██████████████████████████████████████████████▎ | 7225/12000 [27:54<17:56, 4.44it/s]
train loss:0.005948340093841177
60%|██████████████████████████████████████████████▎ | 7226/12000 [27:54<17:58, 4.43it/s]
train loss:0.0029318319380758763
60%|██████████████████████████████████████████████▎ | 7227/12000 [27:54<17:59, 4.42it/s]
train loss:0.015240385510117542
60%|██████████████████████████████████████████████▍ | 7228/12000 [27:55<18:00, 4.41it/s]
train loss:0.003397018151136905
60%|██████████████████████████████████████████████▍ | 7229/12000 [27:55<17:52, 4.45it/s]
train loss:0.004616927600425686
60%|██████████████████████████████████████████████▍ | 7230/12000 [27:55<17:59, 4.42it/s]
train loss:0.0009799489979487618
60%|██████████████████████████████████████████████▍ | 7231/12000 [27:55<18:01, 4.41it/s]
train loss:0.009300000779132239
60%|██████████████████████████████████████████████▍ | 7232/12000 [27:55<18:04, 4.40it/s]
train loss:0.006169262088281495
60%|██████████████████████████████████████████████▍ | 7233/12000 [27:56<17:53, 4.44it/s]
train loss:0.00347277774065934
60%|██████████████████████████████████████████████▍ | 7234/12000 [27:56<17:56, 4.43it/s]
train loss:0.002179667335534557
60%|██████████████████████████████████████████████▍ | 7235/12000 [27:56<19:09, 4.15it/s]
train loss:0.002403042007285448
60%|██████████████████████████████████████████████▍ | 7236/12000 [27:56<18:58, 4.18it/s]
train loss:0.006412047016761518
60%|██████████████████████████████████████████████▍ | 7237/12000 [27:57<18:34, 4.28it/s]
train loss:0.0011927094309835229
60%|██████████████████████████████████████████████▍ | 7238/12000 [27:57<18:19, 4.33it/s]
train loss:0.008588317251724941
60%|██████████████████████████████████████████████▍ | 7239/12000 [27:57<19:31, 4.06it/s]
train loss:0.005338703924365295
60%|██████████████████████████████████████████████▍ | 7240/12000 [27:57<20:14, 3.92it/s]
train loss:0.0007035397063104486
60%|██████████████████████████████████████████████▍ | 7241/12000 [27:58<19:34, 4.05it/s]
train loss:0.035302874473368016
60%|██████████████████████████████████████████████▍ | 7242/12000 [27:58<19:05, 4.15it/s]
train loss:0.0020186964184375714
60%|██████████████████████████████████████████████▍ | 7243/12000 [27:58<18:47, 4.22it/s]
train loss:0.007956754104485198
60%|██████████████████████████████████████████████▍ | 7244/12000 [27:58<18:32, 4.28it/s]
train loss:0.00020945164279629483
60%|██████████████████████████████████████████████▍ | 7245/12000 [27:59<18:21, 4.32it/s]
train loss:0.001089068662093643
60%|██████████████████████████████████████████████▍ | 7246/12000 [27:59<18:11, 4.36it/s]
train loss:0.008479415783120642
60%|██████████████████████████████████████████████▌ | 7247/12000 [27:59<18:10, 4.36it/s]
train loss:0.0008856202012010048
60%|██████████████████████████████████████████████▌ | 7248/12000 [27:59<18:08, 4.36it/s]
train loss:0.006488615457289934
60%|██████████████████████████████████████████████▌ | 7249/12000 [27:59<18:03, 4.39it/s]
train loss:0.0033147839280143476
60%|██████████████████████████████████████████████▌ | 7250/12000 [28:00<17:51, 4.43it/s]
train loss:0.016200338745363453
60%|██████████████████████████████████████████████▌ | 7251/12000 [28:00<17:53, 4.42it/s]
train loss:0.006193239955226955
60%|██████████████████████████████████████████████▌ | 7252/12000 [28:00<17:55, 4.42it/s]
train loss:0.0016176137697218893
60%|██████████████████████████████████████████████▌ | 7253/12000 [28:00<17:54, 4.42it/s]
train loss:0.00407997797652753
60%|██████████████████████████████████████████████▌ | 7254/12000 [28:01<17:50, 4.43it/s]
train loss:0.021628627842813358
60%|██████████████████████████████████████████████▌ | 7255/12000 [28:01<17:44, 4.46it/s]
train loss:0.0014188606095979909
60%|██████████████████████████████████████████████▌ | 7256/12000 [28:01<17:50, 4.43it/s]
train loss:0.0040716833609667005
60%|██████████████████████████████████████████████▌ | 7257/12000 [28:01<17:51, 4.43it/s]
train loss:0.017547542681340324
60%|██████████████████████████████████████████████▌ | 7258/12000 [28:01<17:54, 4.41it/s]
train loss:0.00042806311855973284
60%|██████████████████████████████████████████████▌ | 7259/12000 [28:02<17:40, 4.47it/s]
train loss:0.00893978448338664
60%|██████████████████████████████████████████████▌ | 7260/12000 [28:02<17:32, 4.50it/s]
train loss:0.003995873268672448
61%|██████████████████████████████████████████████▌ | 7261/12000 [28:02<17:37, 4.48it/s]
train loss:0.011296317122208284
61%|██████████████████████████████████████████████▌ | 7262/12000 [28:02<17:41, 4.46it/s]
train loss:0.001585289753502771
61%|██████████████████████████████████████████████▌ | 7263/12000 [28:03<17:37, 4.48it/s]
train loss:0.0025404235167321813
61%|██████████████████████████████████████████████▌ | 7264/12000 [28:03<17:39, 4.47it/s]
train loss:0.005546182267801729
61%|██████████████████████████████████████████████▌ | 7265/12000 [28:03<17:40, 4.47it/s]
train loss:0.0016465512038078096
61%|██████████████████████████████████████████████▌ | 7266/12000 [28:03<17:44, 4.45it/s]
train loss:0.0018851139483071913
61%|██████████████████████████████████████████████▋ | 7267/12000 [28:04<17:48, 4.43it/s]
train loss:0.0013258963405643454
61%|██████████████████████████████████████████████▋ | 7268/12000 [28:04<17:39, 4.47it/s]
train loss:0.007292977116441934
61%|██████████████████████████████████████████████▋ | 7269/12000 [28:04<17:45, 4.44it/s]
train loss:0.0008750183485625016
61%|██████████████████████████████████████████████▋ | 7270/12000 [28:04<17:49, 4.42it/s]
train loss:0.0013418006628463503
61%|██████████████████████████████████████████████▋ | 7271/12000 [28:04<17:54, 4.40it/s]
train loss:0.001963185033330003
61%|██████████████████████████████████████████████▋ | 7272/12000 [28:05<17:50, 4.42it/s]
train loss:0.0005140617828827382
61%|██████████████████████████████████████████████▋ | 7273/12000 [28:05<18:00, 4.38it/s]
train loss:0.004901539139720098
61%|██████████████████████████████████████████████▋ | 7274/12000 [28:05<18:08, 4.34it/s]
train loss:0.0011691657606243654
61%|██████████████████████████████████████████████▋ | 7275/12000 [28:05<18:22, 4.28it/s]
train loss:0.0032094205025601395
61%|██████████████████████████████████████████████▋ | 7276/12000 [28:06<18:56, 4.16it/s]
train loss:0.002572702103067697
61%|██████████████████████████████████████████████▋ | 7277/12000 [28:06<18:41, 4.21it/s]
train loss:0.0027451778826141516
61%|██████████████████████████████████████████████▋ | 7278/12000 [28:06<18:27, 4.26it/s]
train loss:0.0002343120718264621
61%|██████████████████████████████████████████████▋ | 7279/12000 [28:06<18:07, 4.34it/s]
train loss:0.000405021800388607
61%|██████████████████████████████████████████████▋ | 7280/12000 [28:07<18:15, 4.31it/s]
train loss:0.000525853490036721
61%|██████████████████████████████████████████████▋ | 7281/12000 [28:07<17:57, 4.38it/s]
train loss:0.001705898958739522
61%|██████████████████████████████████████████████▋ | 7282/12000 [28:07<18:12, 4.32it/s]
train loss:0.006437471151758894
61%|██████████████████████████████████████████████▋ | 7283/12000 [28:07<19:05, 4.12it/s]
train loss:0.0016367454454964605
61%|██████████████████████████████████████████████▋ | 7284/12000 [28:08<19:52, 3.95it/s]
train loss:0.0017982189162856716
61%|██████████████████████████████████████████████▋ | 7285/12000 [28:08<19:29, 4.03it/s]
train loss:0.003229368653242007
61%|██████████████████████████████████████████████▊ | 7286/12000 [28:08<20:06, 3.91it/s]
train loss:0.00045148250766127
61%|██████████████████████████████████████████████▊ | 7287/12000 [28:08<20:31, 3.83it/s]
train loss:0.002119707183889377
61%|██████████████████████████████████████████████▊ | 7288/12000 [28:09<20:27, 3.84it/s]
train loss:0.001168593347018404
61%|██████████████████████████████████████████████▊ | 7289/12000 [28:09<19:25, 4.04it/s]
train loss:0.0006620648049177741
61%|██████████████████████████████████████████████▊ | 7290/12000 [28:09<18:54, 4.15it/s]
train loss:0.007115290113947192
61%|██████████████████████████████████████████████▊ | 7291/12000 [28:09<18:33, 4.23it/s]
train loss:0.001290778606803116
61%|██████████████████████████████████████████████▊ | 7292/12000 [28:09<18:19, 4.28it/s]
train loss:0.005178404731091392
61%|██████████████████████████████████████████████▊ | 7293/12000 [28:10<17:57, 4.37it/s]
train loss:0.038448855435319174
61%|██████████████████████████████████████████████▊ | 7294/12000 [28:10<17:55, 4.38it/s]
train loss:0.06488217691757389
61%|██████████████████████████████████████████████▊ | 7295/12000 [28:10<17:53, 4.38it/s]
train loss:0.0024576622302015703
61%|██████████████████████████████████████████████▊ | 7296/12000 [28:10<18:02, 4.35it/s]
train loss:0.003011790922450942
61%|██████████████████████████████████████████████▊ | 7297/12000 [28:11<17:58, 4.36it/s]
train loss:0.009212147684578878
61%|██████████████████████████████████████████████▊ | 7298/12000 [28:11<17:50, 4.39it/s]
train loss:0.0007008049350994863
61%|██████████████████████████████████████████████▊ | 7299/12000 [28:11<17:57, 4.36it/s]
train loss:0.0005680038224359822
61%|██████████████████████████████████████████████▊ | 7300/12000 [28:11<18:01, 4.34it/s]
train loss:0.04998906383818276
61%|██████████████████████████████████████████████▊ | 7301/12000 [28:12<18:04, 4.33it/s]
train loss:0.0025793967534357546
61%|██████████████████████████████████████████████▊ | 7302/12000 [28:12<17:52, 4.38it/s]
train loss:0.0008039760994901822
61%|██████████████████████████████████████████████▊ | 7303/12000 [28:12<17:56, 4.36it/s]
train loss:0.011417881937608681
61%|██████████████████████████████████████████████▊ | 7304/12000 [28:12<17:59, 4.35it/s]
train loss:0.015878364604456973
61%|██████████████████████████████████████████████▊ | 7305/12000 [28:12<18:02, 4.34it/s]
train loss:0.05801640535131305
61%|██████████████████████████████████████████████▉ | 7306/12000 [28:13<17:48, 4.39it/s]
train loss:0.00671885935809603
61%|██████████████████████████████████████████████▉ | 7307/12000 [28:13<17:55, 4.36it/s]
train loss:0.00883171849088094
61%|██████████████████████████████████████████████▉ | 7308/12000 [28:13<18:01, 4.34it/s]
train loss:0.040307878638814396
61%|██████████████████████████████████████████████▉ | 7309/12000 [28:13<18:06, 4.32it/s]
train loss:0.023101594377503264
61%|██████████████████████████████████████████████▉ | 7310/12000 [28:14<18:04, 4.32it/s]
train loss:0.0014838444552774054
61%|██████████████████████████████████████████████▉ | 7311/12000 [28:14<17:57, 4.35it/s]
train loss:0.001643945324900208
61%|██████████████████████████████████████████████▉ | 7312/12000 [28:14<18:29, 4.22it/s]
train loss:0.001973073616235752
61%|██████████████████████████████████████████████▉ | 7313/12000 [28:14<18:16, 4.27it/s]
train loss:0.003963820754056582
61%|██████████████████████████████████████████████▉ | 7314/12000 [28:15<18:07, 4.31it/s]
train loss:0.004321195238381231
61%|██████████████████████████████████████████████▉ | 7315/12000 [28:15<18:04, 4.32it/s]
train loss:0.004862815502403476
61%|██████████████████████████████████████████████▉ | 7316/12000 [28:15<18:50, 4.14it/s]
train loss:0.04097438005182876
61%|██████████████████████████████████████████████▉ | 7317/12000 [28:15<19:33, 3.99it/s]
train loss:0.003118409099759505
61%|██████████████████████████████████████████████▉ | 7318/12000 [28:16<20:10, 3.87it/s]
train loss:0.0020402471237132933
61%|██████████████████████████████████████████████▉ | 7319/12000 [28:16<20:24, 3.82it/s]
train loss:0.011540672149105756
61%|██████████████████████████████████████████████▉ | 7320/12000 [28:16<20:41, 3.77it/s]
train loss:0.0023399216281625138
61%|██████████████████████████████████████████████▉ | 7321/12000 [28:16<20:37, 3.78it/s]
train loss:0.0052044945215766305
61%|██████████████████████████████████████████████▉ | 7322/12000 [28:17<19:39, 3.96it/s]
train loss:0.02670646557112343
61%|██████████████████████████████████████████████▉ | 7323/12000 [28:17<19:33, 3.98it/s]
train loss:0.017862585586272715
61%|██████████████████████████████████████████████▉ | 7324/12000 [28:17<20:10, 3.86it/s]
train loss:0.024530128343359867
61%|███████████████████████████████████████████████ | 7325/12000 [28:17<20:34, 3.79it/s]
train loss:0.01067035327315175
61%|███████████████████████████████████████████████ | 7326/12000 [28:18<20:34, 3.79it/s]
train loss:0.001273226068769177
61%|███████████████████████████████████████████████ | 7327/12000 [28:18<19:37, 3.97it/s]
train loss:0.047525127609794195
61%|███████████████████████████████████████████████ | 7328/12000 [28:18<19:11, 4.06it/s]
train loss:0.0009504719454306155
61%|███████████████████████████████████████████████ | 7329/12000 [28:18<18:40, 4.17it/s]
train loss:0.0008204170790713332
61%|███████████████████████████████████████████████ | 7330/12000 [28:19<18:24, 4.23it/s]
train loss:0.0020488496893119657
61%|███████████████████████████████████████████████ | 7331/12000 [28:19<17:59, 4.32it/s]
train loss:0.0001472315917677259
61%|███████████████████████████████████████████████ | 7332/12000 [28:19<17:56, 4.34it/s]
train loss:0.0004972110641656753
61%|███████████████████████████████████████████████ | 7333/12000 [28:19<17:51, 4.36it/s]
train loss:0.0012114116524381
61%|███████████████████████████████████████████████ | 7334/12000 [28:19<17:56, 4.33it/s]
train loss:0.006473027090247406
61%|███████████████████████████████████████████████ | 7335/12000 [28:20<17:39, 4.40it/s]
train loss:0.00521284887210776
61%|███████████████████████████████████████████████ | 7336/12000 [28:20<17:39, 4.40it/s]
train loss:0.002098331323853056
61%|███████████████████████████████████████████████ | 7337/12000 [28:20<17:41, 4.39it/s]
train loss:0.0005722124554534054
61%|███████████████████████████████████████████████ | 7338/12000 [28:20<17:44, 4.38it/s]
train loss:0.054286285866094054
61%|███████████████████████████████████████████████ | 7339/12000 [28:21<17:47, 4.37it/s]
train loss:0.006023444392440795
61%|███████████████████████████████████████████████ | 7340/12000 [28:21<17:46, 4.37it/s]
train loss:0.0021172104376206056
61%|███████████████████████████████████████████████ | 7341/12000 [28:21<17:50, 4.35it/s]
train loss:0.0012459322382153183
61%|███████████████████████████████████████████████ | 7342/12000 [28:21<17:59, 4.31it/s]
train loss:0.007146159138734426
61%|███████████████████████████████████████████████ | 7343/12000 [28:22<18:33, 4.18it/s]
train loss:0.012160913916491788
61%|███████████████████████████████████████████████ | 7344/12000 [28:22<18:20, 4.23it/s]
train loss:0.002025600919623896
61%|███████████████████████████████████████████████▏ | 7345/12000 [28:22<18:09, 4.27it/s]
train loss:0.0027785637770065814
61%|███████████████████████████████████████████████▏ | 7346/12000 [28:22<18:01, 4.30it/s]
train loss:0.004842341871884597
61%|███████████████████████████████████████████████▏ | 7347/12000 [28:22<17:57, 4.32it/s]
train loss:0.004985920980331034
61%|███████████████████████████████████████████████▏ | 7348/12000 [28:23<17:38, 4.39it/s]
train loss:0.0020046674825776704
61%|███████████████████████████████████████████████▏ | 7349/12000 [28:23<17:39, 4.39it/s]
train loss:0.031793576886325566
61%|███████████████████████████████████████████████▏ | 7350/12000 [28:23<17:40, 4.38it/s]
train loss:0.020714218720535697
61%|███████████████████████████████████████████████▏ | 7351/12000 [28:23<17:39, 4.39it/s]
train loss:0.004630699706374738
61%|███████████████████████████████████████████████▏ | 7352/12000 [28:24<17:35, 4.40it/s]
train loss:0.0010866257587834637
61%|███████████████████████████████████████████████▏ | 7353/12000 [28:24<17:31, 4.42it/s]
train loss:0.0026807556442568314
61%|███████████████████████████████████████████████▏ | 7354/12000 [28:24<17:31, 4.42it/s]
train loss:0.003967599272278538
61%|███████████████████████████████████████████████▏ | 7355/12000 [28:24<17:30, 4.42it/s]
train loss:0.006342005266551416
61%|███████████████████████████████████████████████▏ | 7356/12000 [28:25<17:30, 4.42it/s]
train loss:0.002009093804025952
61%|███████████████████████████████████████████████▏ | 7357/12000 [28:25<17:17, 4.48it/s]
train loss:0.0003140013770283847
61%|███████████████████████████████████████████████▏ | 7358/12000 [28:25<17:22, 4.45it/s]
train loss:0.004883556504946494
61%|███████████████████████████████████████████████▏ | 7359/12000 [28:25<17:32, 4.41it/s]
train loss:0.0066855445376039265
61%|███████████████████████████████████████████████▏ | 7360/12000 [28:25<17:34, 4.40it/s]
train loss:0.010124260596177161
61%|███████████████████████████████████████████████▏ | 7361/12000 [28:26<17:26, 4.43it/s]
train loss:0.0031857365923132763
61%|███████████████████████████████████████████████▏ | 7362/12000 [28:26<17:23, 4.44it/s]
train loss:0.007317829312225622
61%|███████████████████████████████████████████████▏ | 7363/12000 [28:26<17:25, 4.43it/s]
train loss:0.04879592348468808
61%|███████████████████████████████████████████████▎ | 7364/12000 [28:26<17:28, 4.42it/s]
train loss:0.034414234633389176
61%|███████████████████████████████████████████████▎ | 7365/12000 [28:27<17:30, 4.41it/s]
train loss:0.011006489262908724
61%|███████████████████████████████████████████████▎ | 7366/12000 [28:27<17:24, 4.44it/s]
train loss:0.0020327773116509944
61%|███████████████████████████████████████████████▎ | 7367/12000 [28:27<17:28, 4.42it/s]
train loss:0.053800281429313423
61%|███████████████████████████████████████████████▎ | 7368/12000 [28:27<17:28, 4.42it/s]
train loss:0.0027331860992500802
61%|███████████████████████████████████████████████▎ | 7369/12000 [28:27<17:32, 4.40it/s]
train loss:0.004298478367381347
61%|███████████████████████████████████████████████▎ | 7370/12000 [28:28<17:20, 4.45it/s]
train loss:0.002575087868551233
61%|███████████████████████████████████████████████▎ | 7371/12000 [28:28<17:24, 4.43it/s]
train loss:0.003148051507035111
61%|███████████████████████████████████████████████▎ | 7372/12000 [28:28<17:32, 4.40it/s]
train loss:0.004394454097605984
61%|███████████████████████████████████████████████▎ | 7373/12000 [28:28<17:29, 4.41it/s]
train loss:0.004641015868309726
61%|███████████████████████████████████████████████▎ | 7374/12000 [28:29<17:27, 4.42it/s]
train loss:0.005356769643201361
61%|███████████████████████████████████████████████▎ | 7375/12000 [28:29<17:21, 4.44it/s]
train loss:0.008471995503111888
61%|███████████████████████████████████████████████▎ | 7376/12000 [28:29<17:23, 4.43it/s]
train loss:0.012643936927445566
61%|███████████████████████████████████████████████▎ | 7377/12000 [28:29<17:28, 4.41it/s]
train loss:0.0007687333577190415
61%|███████████████████████████████████████████████▎ | 7378/12000 [28:29<17:30, 4.40it/s]
train loss:0.003294794011933888
61%|███████████████████████████████████████████████▎ | 7379/12000 [28:30<17:24, 4.42it/s]
train loss:0.0019132807773222804
62%|███████████████████████████████████████████████▎ | 7380/12000 [28:30<17:12, 4.47it/s]
train loss:0.005424772467809234
62%|███████████████████████████████████████████████▎ | 7381/12000 [28:30<17:17, 4.45it/s]
train loss:0.0007799070363971356
62%|███████████████████████████████████████████████▎ | 7382/12000 [28:30<17:20, 4.44it/s]
train loss:0.003781755747224141
62%|███████████████████████████████████████████████▎ | 7383/12000 [28:31<17:16, 4.45it/s]
train loss:0.002501712498416833
62%|███████████████████████████████████████████████▍ | 7384/12000 [28:31<17:22, 4.43it/s]
train loss:0.0010197878967587047
62%|███████████████████████████████████████████████▍ | 7385/12000 [28:31<17:24, 4.42it/s]
train loss:0.014409527449932114
62%|███████████████████████████████████████████████▍ | 7386/12000 [28:31<17:24, 4.42it/s]
train loss:0.004930032704190613
62%|███████████████████████████████████████████████▍ | 7387/12000 [28:32<17:28, 4.40it/s]
train loss:0.0011877435428729584
62%|███████████████████████████████████████████████▍ | 7388/12000 [28:32<17:22, 4.42it/s]
train loss:0.0020004810766425934
62%|███████████████████████████████████████████████▍ | 7389/12000 [28:32<17:27, 4.40it/s]
train loss:0.0020141628510615675
62%|███████████████████████████████████████████████▍ | 7390/12000 [28:32<17:30, 4.39it/s]
train loss:0.010235984091067107
62%|███████████████████████████████████████████████▍ | 7391/12000 [28:32<17:49, 4.31it/s]
train loss:0.001200922947140492
62%|███████████████████████████████████████████████▍ | 7392/12000 [28:33<17:40, 4.34it/s]
train loss:0.0008983118114248746
62%|███████████████████████████████████████████████▍ | 7393/12000 [28:33<17:26, 4.40it/s]
train loss:0.0026701293670624332
62%|███████████████████████████████████████████████▍ | 7394/12000 [28:33<17:27, 4.40it/s]
train loss:0.0006059565032402864
62%|███████████████████████████████████████████████▍ | 7395/12000 [28:33<17:25, 4.41it/s]
train loss:0.0015071298266819766
62%|███████████████████████████████████████████████▍ | 7396/12000 [28:34<17:25, 4.41it/s]
train loss:0.00504650770758592
62%|███████████████████████████████████████████████▍ | 7397/12000 [28:34<17:15, 4.44it/s]
train loss:0.007627125585438964
62%|███████████████████████████████████████████████▍ | 7398/12000 [28:34<17:18, 4.43it/s]
train loss:0.0027688052548502594
62%|███████████████████████████████████████████████▍ | 7399/12000 [28:34<17:20, 4.42it/s]
train loss:0.0067898214216992
62%|███████████████████████████████████████████████▍ | 7400/12000 [28:34<17:04, 4.49it/s]
train loss:0.022898605286172217
62%|███████████████████████████████████████████████▍ | 7401/12000 [28:35<17:22, 4.41it/s]
train loss:0.044265949209631804
62%|███████████████████████████████████████████████▍ | 7402/12000 [28:35<17:34, 4.36it/s]
train loss:0.00041560523182571036
62%|███████████████████████████████████████████████▌ | 7403/12000 [28:35<17:36, 4.35it/s]
train loss:0.0007314192136132224
62%|███████████████████████████████████████████████▌ | 7404/12000 [28:35<17:36, 4.35it/s]
train loss:0.001432470072820176
62%|███████████████████████████████████████████████▌ | 7405/12000 [28:36<17:36, 4.35it/s]
train loss:0.00018780317307039447
62%|███████████████████████████████████████████████▌ | 7406/12000 [28:36<17:55, 4.27it/s]
train loss:0.0013765992010122735
62%|███████████████████████████████████████████████▌ | 7407/12000 [28:36<18:20, 4.17it/s]
train loss:0.004522613773801424
62%|███████████████████████████████████████████████▌ | 7408/12000 [28:36<19:20, 3.96it/s]
train loss:0.012433948005866698
62%|███████████████████████████████████████████████▌ | 7409/12000 [28:37<19:09, 3.99it/s]
train loss:0.0031066387752710155
62%|███████████████████████████████████████████████▌ | 7410/12000 [28:37<18:51, 4.06it/s]
train loss:0.0015241832934694386
62%|███████████████████████████████████████████████▌ | 7411/12000 [28:37<18:24, 4.15it/s]
train loss:0.011514166794582528
62%|███████████████████████████████████████████████▌ | 7412/12000 [28:37<18:12, 4.20it/s]
train loss:0.005134280710059168
62%|███████████████████████████████████████████████▌ | 7413/12000 [28:38<18:39, 4.10it/s]
train loss:0.0011659000479697166
62%|███████████████████████████████████████████████▌ | 7414/12000 [28:38<18:28, 4.14it/s]
train loss:0.007990010408636413
62%|███████████████████████████████████████████████▌ | 7415/12000 [28:38<18:27, 4.14it/s]
train loss:0.0011519721547293721
62%|███████████████████████████████████████████████▌ | 7416/12000 [28:38<18:44, 4.08it/s]
train loss:0.000122004247299229
62%|███████████████████████████████████████████████▌ | 7417/12000 [28:39<18:37, 4.10it/s]
train loss:0.001472016240090916
62%|███████████████████████████████████████████████▌ | 7418/12000 [28:39<18:03, 4.23it/s]
train loss:0.04113847200010108
62%|███████████████████████████████████████████████▌ | 7419/12000 [28:39<17:49, 4.29it/s]
train loss:0.00780736979347539
62%|███████████████████████████████████████████████▌ | 7420/12000 [28:39<18:12, 4.19it/s]
train loss:0.0007156321065730263
62%|███████████████████████████████████████████████▌ | 7421/12000 [28:40<19:10, 3.98it/s]
train loss:0.0008485293497619863
62%|███████████████████████████████████████████████▌ | 7422/12000 [28:40<19:32, 3.90it/s]
train loss:0.003174291689624838
62%|███████████████████████████████████████████████▋ | 7423/12000 [28:40<19:02, 4.01it/s]
train loss:0.013773846250708655
62%|███████████████████████████████████████████████▋ | 7424/12000 [28:40<19:42, 3.87it/s]
train loss:0.0013753814779773562
62%|███████████████████████████████████████████████▋ | 7425/12000 [28:41<18:57, 4.02it/s]
train loss:0.02003406279916348
62%|███████████████████████████████████████████████▋ | 7426/12000 [28:41<18:15, 4.17it/s]
train loss:0.0006968161625082113
62%|███████████████████████████████████████████████▋ | 7427/12000 [28:41<19:10, 3.97it/s]
train loss:0.04094115429414993
62%|███████████████████████████████████████████████▋ | 7428/12000 [28:41<19:47, 3.85it/s]
train loss:0.0036598766523871077
62%|███████████████████████████████████████████████▋ | 7429/12000 [28:42<19:18, 3.94it/s]
train loss:0.0015295182621708483
62%|███████████████████████████████████████████████▋ | 7430/12000 [28:42<18:30, 4.12it/s]
train loss:0.0012418038642591916
62%|███████████████████████████████████████████████▋ | 7431/12000 [28:42<18:07, 4.20it/s]
train loss:0.011579235197022763
62%|███████████████████████████████████████████████▋ | 7432/12000 [28:42<17:54, 4.25it/s]
train loss:0.003485606583751536
62%|███████████████████████████████████████████████▋ | 7433/12000 [28:42<17:48, 4.27it/s]
train loss:0.003221924323342389
62%|███████████████████████████████████████████████▋ | 7434/12000 [28:43<17:32, 4.34it/s]
train loss:0.0012513740705346608
62%|███████████████████████████████████████████████▋ | 7435/12000 [28:43<17:28, 4.35it/s]
train loss:0.005316556284537246
62%|███████████████████████████████████████████████▋ | 7436/12000 [28:43<17:22, 4.38it/s]
train loss:0.00035635551256785224
62%|███████████████████████████████████████████████▋ | 7437/12000 [28:43<17:21, 4.38it/s]
train loss:0.005488767767003796
62%|███████████████████████████████████████████████▋ | 7438/12000 [28:44<17:10, 4.43it/s]
train loss:0.011465692545799617
62%|███████████████████████████████████████████████▋ | 7439/12000 [28:44<17:18, 4.39it/s]
train loss:0.005604651959428553
62%|███████████████████████████████████████████████▋ | 7440/12000 [28:44<17:19, 4.39it/s]
train loss:0.0016013767679238227
62%|███████████████████████████████████████████████▋ | 7441/12000 [28:44<17:19, 4.39it/s]
train loss:0.038405369524082106
62%|███████████████████████████████████████████████▊ | 7442/12000 [28:45<17:17, 4.39it/s]
train loss:0.0028545968307537384
62%|███████████████████████████████████████████████▊ | 7443/12000 [28:45<17:06, 4.44it/s]
train loss:0.008448339913361387
62%|███████████████████████████████████████████████▊ | 7444/12000 [28:45<17:10, 4.42it/s]
train loss:0.0006548846812383217
62%|███████████████████████████████████████████████▊ | 7445/12000 [28:45<17:08, 4.43it/s]
train loss:0.0009220240080060334
62%|███████████████████████████████████████████████▊ | 7446/12000 [28:45<17:08, 4.43it/s]
train loss:0.0030948353897815705
62%|███████████████████████████████████████████████▊ | 7447/12000 [28:46<17:01, 4.46it/s]
train loss:0.008083919395409684
62%|███████████████████████████████████████████████▊ | 7448/12000 [28:46<16:59, 4.46it/s]
train loss:0.003956826033426411
62%|███████████████████████████████████████████████▊ | 7449/12000 [28:46<17:02, 4.45it/s]
train loss:0.017206307424122977
62%|███████████████████████████████████████████████▊ | 7450/12000 [28:46<17:03, 4.45it/s]
train loss:0.002369049751451058
62%|███████████████████████████████████████████████▊ | 7451/12000 [28:47<17:10, 4.41it/s]
train loss:0.0019219798598440136
62%|███████████████████████████████████████████████▊ | 7452/12000 [28:47<16:58, 4.47it/s]
train loss:0.001504536485997063
62%|███████████████████████████████████████████████▊ | 7453/12000 [28:47<17:01, 4.45it/s]
train loss:0.00044904485266026683
62%|███████████████████████████████████████████████▊ | 7454/12000 [28:47<17:02, 4.45it/s]
train loss:0.0018438023394104783
62%|███████████████████████████████████████████████▊ | 7455/12000 [28:47<17:03, 4.44it/s]
train loss:0.0015972479554932759
62%|███████████████████████████████████████████████▊ | 7456/12000 [28:48<16:46, 4.52it/s]
train loss:0.001355685241676352
62%|███████████████████████████████████████████████▊ | 7457/12000 [28:48<16:55, 4.48it/s]
train loss:0.003552636370600413
62%|███████████████████████████████████████████████▊ | 7458/12000 [28:48<16:57, 4.46it/s]
train loss:0.0019486828948851516
62%|███████████████████████████████████████████████▊ | 7459/12000 [28:48<17:00, 4.45it/s]
train loss:0.02894479048984138
62%|███████████████████████████████████████████████▊ | 7460/12000 [28:49<17:05, 4.43it/s]
train loss:0.01594333874044003
62%|███████████████████████████████████████████████▊ | 7461/12000 [28:49<16:52, 4.48it/s]
train loss:0.005528192345405881
62%|███████████████████████████████████████████████▉ | 7462/12000 [28:49<16:55, 4.47it/s]
train loss:0.0011480843319340817
62%|███████████████████████████████████████████████▉ | 7463/12000 [28:49<16:56, 4.46it/s]
train loss:0.0022659556548571343
62%|███████████████████████████████████████████████▉ | 7464/12000 [28:49<17:07, 4.41it/s]
train loss:0.0028887175901619513
62%|███████████████████████████████████████████████▉ | 7465/12000 [28:50<16:54, 4.47it/s]
train loss:0.0006539300916510037
62%|███████████████████████████████████████████████▉ | 7466/12000 [28:50<16:55, 4.46it/s]
train loss:0.010240489264517089
62%|███████████████████████████████████████████████▉ | 7467/12000 [28:50<17:01, 4.44it/s]
train loss:0.0037140718124204597
62%|███████████████████████████████████████████████▉ | 7468/12000 [28:50<17:03, 4.43it/s]
train loss:0.00356063623048405
62%|███████████████████████████████████████████████▉ | 7469/12000 [28:51<17:03, 4.43it/s]
train loss:0.0038972852696455675
62%|███████████████████████████████████████████████▉ | 7470/12000 [28:51<17:00, 4.44it/s]
train loss:0.002238341563260133
62%|███████████████████████████████████████████████▉ | 7471/12000 [28:51<17:08, 4.40it/s]
train loss:0.006900711330569581
62%|███████████████████████████████████████████████▉ | 7472/12000 [28:51<17:16, 4.37it/s]
train loss:0.00802324844662417
62%|███████████████████████████████████████████████▉ | 7473/12000 [28:51<17:15, 4.37it/s]
train loss:0.001922898574683122
62%|███████████████████████████████████████████████▉ | 7474/12000 [28:52<16:58, 4.44it/s]
train loss:0.003174679594341677
62%|███████████████████████████████████████████████▉ | 7475/12000 [28:52<17:04, 4.42it/s]
train loss:0.0008296955948608553
62%|███████████████████████████████████████████████▉ | 7476/12000 [28:52<17:10, 4.39it/s]
train loss:0.005280700647226967
62%|███████████████████████████████████████████████▉ | 7477/12000 [28:52<17:13, 4.38it/s]
train loss:0.00435474877990922
62%|███████████████████████████████████████████████▉ | 7478/12000 [28:53<17:08, 4.40it/s]
train loss:0.020603572786412207
62%|███████████████████████████████████████████████▉ | 7479/12000 [28:53<16:57, 4.44it/s]
train loss:0.006088680300621862
62%|███████████████████████████████████████████████▉ | 7480/12000 [28:53<17:10, 4.39it/s]
train loss:0.0145013506890666
62%|████████████████████████████████████████████████ | 7481/12000 [28:53<17:07, 4.40it/s]
train loss:0.005395427256983165
62%|████████████████████████████████████████████████ | 7482/12000 [28:54<17:06, 4.40it/s]
train loss:0.0008102135952454312
62%|████████████████████████████████████████████████ | 7483/12000 [28:54<16:53, 4.46it/s]
train loss:0.06184605186871992
62%|████████████████████████████████████████████████ | 7484/12000 [28:54<17:04, 4.41it/s]
train loss:0.0027035479807170117
62%|████████████████████████████████████████████████ | 7485/12000 [28:54<17:22, 4.33it/s]
train loss:0.010137802614872491
62%|████████████████████████████████████████████████ | 7486/12000 [28:54<17:17, 4.35it/s]
train loss:0.004170853063162391
62%|████████████████████████████████████████████████ | 7487/12000 [28:55<17:04, 4.40it/s]
train loss:0.0019651171469520817
62%|████████████████████████████████████████████████ | 7488/12000 [28:55<17:07, 4.39it/s]
train loss:0.008211101108163553
62%|████████████████████████████████████████████████ | 7489/12000 [28:55<17:08, 4.39it/s]
train loss:0.0013784714611169218
62%|████████████████████████████████████████████████ | 7490/12000 [28:55<17:18, 4.34it/s]
train loss:0.024177708993942063
62%|████████████████████████████████████████████████ | 7491/12000 [28:56<17:14, 4.36it/s]
train loss:7.915451696843125e-05
62%|████████████████████████████████████████████████ | 7492/12000 [28:56<17:11, 4.37it/s]
train loss:0.003535390645725681
62%|████████████████████████████████████████████████ | 7493/12000 [28:56<17:09, 4.38it/s]
train loss:0.007841167549391102
62%|████████████████████████████████████████████████ | 7494/12000 [28:56<17:04, 4.40it/s]
train loss:0.006109441611424599
62%|████████████████████████████████████████████████ | 7496/12000 [28:57<16:48, 4.47it/s]
train loss:0.01154254428060134 train loss:0.0011906876197402612
62%|████████████████████████████████████████████████ | 7497/12000 [28:57<16:53, 4.44it/s]
train loss:0.0032026779913436674
62%|████████████████████████████████████████████████ | 7498/12000 [28:57<17:05, 4.39it/s]
train loss:0.0019593320463220567
62%|████████████████████████████████████████████████ | 7499/12000 [28:57<17:14, 4.35it/s]
train loss:0.0025055448866962747
62%|████████████████████████████████████████████████▏ | 7500/12000 [28:58<17:03, 4.40it/s]
train loss:0.010262077154618623
63%|████████████████████████████████████████████████▏ | 7501/12000 [28:58<16:58, 4.42it/s]
train loss:0.004355389918400334
63%|████████████████████████████████████████████████▏ | 7502/12000 [28:58<16:58, 4.42it/s]
train loss:0.0019668559009732374
63%|████████████████████████████████████████████████▏ | 7503/12000 [28:58<17:08, 4.37it/s]
train loss:0.0013370330154976958
63%|████████████████████████████████████████████████▏ | 7504/12000 [28:59<17:07, 4.37it/s]
train loss:0.006151177231233963
63%|████████████████████████████████████████████████▏ | 7505/12000 [28:59<16:41, 4.49it/s]
train loss:0.0012032525594782323
63%|████████████████████████████████████████████████▏ | 7506/12000 [28:59<17:11, 4.36it/s]
train loss:0.0035457630779961425
63%|████████████████████████████████████████████████▏ | 7507/12000 [28:59<17:29, 4.28it/s]
train loss:0.003769629066929161
63%|████████████████████████████████████████████████▏ | 7508/12000 [28:59<17:32, 4.27it/s]
train loss:0.017311126749496305
63%|████████████████████████████████████████████████▏ | 7509/12000 [29:00<17:25, 4.29it/s]
train loss:0.00265041824845232
63%|████████████████████████████████████████████████▏ | 7510/12000 [29:00<17:26, 4.29it/s]
train loss:0.003300566014881628
63%|████████████████████████████████████████████████▏ | 7511/12000 [29:00<17:26, 4.29it/s]
train loss:0.008200925550067685
63%|████████████████████████████████████████████████▏ | 7512/12000 [29:00<17:30, 4.27it/s]
train loss:0.0002847009510993736
63%|████████████████████████████████████████████████▏ | 7513/12000 [29:01<17:34, 4.25it/s]
train loss:0.002436953533010892
63%|████████████████████████████████████████████████▏ | 7514/12000 [29:01<17:35, 4.25it/s]
train loss:0.0007219110723931753
63%|████████████████████████████████████████████████▏ | 7515/12000 [29:01<18:32, 4.03it/s]
train loss:0.0017581555049457692
63%|████████████████████████████████████████████████▏ | 7516/12000 [29:01<19:04, 3.92it/s]
train loss:0.003100155969183913
63%|████████████████████████████████████████████████▏ | 7517/12000 [29:02<19:23, 3.85it/s]
train loss:0.002727859139824706
63%|████████████████████████████████████████████████▏ | 7518/12000 [29:02<19:42, 3.79it/s]
train loss:0.0008863596182176275
63%|████████████████████████████████████████████████▏ | 7519/12000 [29:02<20:15, 3.69it/s]
train loss:0.007888883191686897
63%|████████████████████████████████████████████████▎ | 7520/12000 [29:03<20:22, 3.66it/s]
train loss:0.0014818397425131558
63%|████████████████████████████████████████████████▎ | 7521/12000 [29:03<20:31, 3.64it/s]
train loss:0.0012436557016319446
63%|████████████████████████████████████████████████▎ | 7522/12000 [29:03<19:34, 3.81it/s]
train loss:0.00021070076640978435
63%|████████████████████████████████████████████████▎ | 7523/12000 [29:03<18:43, 3.98it/s]
train loss:0.007297301238849535
63%|████████████████████████████████████████████████▎ | 7524/12000 [29:04<18:12, 4.10it/s]
train loss:0.0008889037562980778
63%|████████████████████████████████████████████████▎ | 7525/12000 [29:04<17:32, 4.25it/s]
train loss:0.00109074915258913
63%|████████████████████████████████████████████████▎ | 7526/12000 [29:04<17:51, 4.18it/s]
train loss:0.0008444351251652639
63%|████████████████████████████████████████████████▎ | 7527/12000 [29:04<17:31, 4.26it/s]
train loss:0.00900351941962093
63%|████████████████████████████████████████████████▎ | 7528/12000 [29:04<17:25, 4.28it/s]
train loss:0.004207721836780719
63%|████████████████████████████████████████████████▎ | 7529/12000 [29:05<17:04, 4.37it/s]
train loss:0.0008269917657569531
63%|████████████████████████████████████████████████▎ | 7530/12000 [29:05<17:00, 4.38it/s]
train loss:0.0005488066297430266
63%|████████████████████████████████████████████████▎ | 7531/12000 [29:05<16:58, 4.39it/s]
train loss:0.0031478620107558593
63%|████████████████████████████████████████████████▎ | 7532/12000 [29:05<16:56, 4.39it/s]
train loss:0.001569461958551948
63%|████████████████████████████████████████████████▎ | 7533/12000 [29:06<17:00, 4.38it/s]
train loss:0.005321711503943494
63%|████████████████████████████████████████████████▎ | 7534/12000 [29:06<16:47, 4.43it/s]
train loss:0.0001502658635848857
63%|████████████████████████████████████████████████▎ | 7535/12000 [29:06<16:47, 4.43it/s]
train loss:0.002427207159547494
63%|████████████████████████████████████████████████▎ | 7536/12000 [29:06<16:48, 4.43it/s]
train loss:0.008615596782580962
63%|████████████████████████████████████████████████▎ | 7537/12000 [29:06<16:46, 4.43it/s]
train loss:0.004726960380874525
63%|████████████████████████████████████████████████▎ | 7538/12000 [29:07<16:42, 4.45it/s]
train loss:0.0017806869981997076
63%|████████████████████████████████████████████████▍ | 7539/12000 [29:07<16:48, 4.42it/s]
train loss:0.0006338135388724433
63%|████████████████████████████████████████████████▍ | 7540/12000 [29:07<16:48, 4.42it/s]
train loss:0.019234044642100035
63%|████████████████████████████████████████████████▍ | 7541/12000 [29:07<16:48, 4.42it/s]
train loss:0.004826299737800523
63%|████████████████████████████████████████████████▍ | 7542/12000 [29:08<16:45, 4.44it/s]
train loss:0.0005777593795430508
63%|████████████████████████████████████████████████▍ | 7543/12000 [29:08<16:47, 4.42it/s]
train loss:0.0032043472383058358
63%|████████████████████████████████████████████████▍ | 7544/12000 [29:08<16:51, 4.40it/s]
train loss:0.004288166979421102
63%|████████████████████████████████████████████████▍ | 7545/12000 [29:08<16:57, 4.38it/s]
train loss:0.0016143039563516978
63%|████████████████████████████████████████████████▍ | 7546/12000 [29:09<17:09, 4.33it/s]
train loss:0.003031060764514503
63%|████████████████████████████████████████████████▍ | 7547/12000 [29:09<17:09, 4.33it/s]
train loss:0.004246730814068816
63%|████████████████████████████████████████████████▍ | 7548/12000 [29:09<17:11, 4.31it/s]
train loss:0.007380117784820057
63%|████████████████████████████████████████████████▍ | 7549/12000 [29:09<17:07, 4.33it/s]
train loss:0.0015394097547319718
63%|████████████████████████████████████████████████▍ | 7550/12000 [29:09<17:09, 4.32it/s]
train loss:0.001223947375115452
63%|████████████████████████████████████████████████▍ | 7551/12000 [29:10<17:29, 4.24it/s]
train loss:0.0109754575373023
63%|████████████████████████████████████████████████▍ | 7552/12000 [29:10<17:26, 4.25it/s]
train loss:0.00589711666745798
63%|████████████████████████████████████████████████▍ | 7553/12000 [29:10<17:23, 4.26it/s]
train loss:0.00576451528752782
63%|████████████████████████████████████████████████▍ | 7554/12000 [29:10<17:14, 4.30it/s]
train loss:0.0025740982386904293
63%|████████████████████████████████████████████████▍ | 7555/12000 [29:11<17:04, 4.34it/s]
train loss:0.007332664666732721
63%|████████████████████████████████████████████████▍ | 7556/12000 [29:11<17:01, 4.35it/s]
train loss:0.014182262864502804
63%|████████████████████████████████████████████████▍ | 7557/12000 [29:11<16:57, 4.37it/s]
train loss:0.000746035354726768
63%|████████████████████████████████████████████████▍ | 7558/12000 [29:11<16:57, 4.36it/s]
train loss:0.0009286670799168652
63%|████████████████████████████████████████████████▌ | 7559/12000 [29:12<16:55, 4.38it/s]
train loss:0.0013607354348291441
63%|████████████████████████████████████████████████▌ | 7560/12000 [29:12<16:42, 4.43it/s]
train loss:0.00015546194573204473
63%|████████████████████████████████████████████████▌ | 7561/12000 [29:12<16:47, 4.41it/s]
train loss:0.004986049659164837
63%|████████████████████████████████████████████████▌ | 7562/12000 [29:12<16:46, 4.41it/s]
train loss:0.006743556961410589
63%|████████████████████████████████████████████████▌ | 7563/12000 [29:12<16:46, 4.41it/s]
train loss:0.020117989452416073
63%|████████████████████████████████████████████████▌ | 7564/12000 [29:13<16:43, 4.42it/s]
train loss:0.0009141675583004262
63%|████████████████████████████████████████████████▌ | 7565/12000 [29:13<16:41, 4.43it/s]
train loss:0.004265029253654096
63%|████████████████████████████████████████████████▌ | 7566/12000 [29:13<16:44, 4.41it/s]
train loss:0.014449746296816682
63%|████████████████████████████████████████████████▌ | 7567/12000 [29:13<16:53, 4.37it/s]
train loss:0.0020170998588191313
63%|████████████████████████████████████████████████▌ | 7568/12000 [29:14<17:16, 4.28it/s]
train loss:0.0015290795563222927
63%|████████████████████████████████████████████████▌ | 7569/12000 [29:14<17:05, 4.32it/s]
train loss:0.013396109853658324
63%|████████████████████████████████████████████████▌ | 7570/12000 [29:14<17:12, 4.29it/s]
train loss:0.00563836138858009
63%|████████████████████████████████████████████████▌ | 7571/12000 [29:14<17:14, 4.28it/s]
train loss:0.0016016392615722066
63%|████████████████████████████████████████████████▌ | 7572/12000 [29:15<18:07, 4.07it/s]
train loss:0.0036440608331524864
63%|████████████████████████████████████████████████▌ | 7573/12000 [29:15<18:35, 3.97it/s]
train loss:0.00710813732249776
63%|████████████████████████████████████████████████▌ | 7574/12000 [29:15<19:06, 3.86it/s]
train loss:0.0017629450023960603
63%|████████████████████████████████████████████████▌ | 7575/12000 [29:15<19:20, 3.81it/s]
train loss:0.0019397689824322247
63%|████████████████████████████████████████████████▌ | 7576/12000 [29:16<19:25, 3.80it/s]
train loss:0.0018365635569566154
63%|████████████████████████████████████████████████▌ | 7577/12000 [29:16<19:40, 3.75it/s]
train loss:0.0006298292302254448
63%|████████████████████████████████████████████████▋ | 7578/12000 [29:16<19:47, 3.72it/s]
train loss:0.0015858448140340427
63%|████████████████████████████████████████████████▋ | 7579/12000 [29:16<19:53, 3.70it/s]
train loss:0.0023601039806815916
63%|████████████████████████████████████████████████▋ | 7580/12000 [29:17<19:46, 3.73it/s]
train loss:0.006269614873868132
63%|████████████████████████████████████████████████▋ | 7581/12000 [29:17<19:48, 3.72it/s]
train loss:0.0008999156404565209
63%|████████████████████████████████████████████████▋ | 7582/12000 [29:17<19:21, 3.80it/s]
train loss:0.002742846458318174
63%|████████████████████████████████████████████████▋ | 7583/12000 [29:17<18:38, 3.95it/s]
train loss:0.0015663037590848596
63%|████████████████████████████████████████████████▋ | 7584/12000 [29:18<17:54, 4.11it/s]
train loss:0.0019974860409978463
63%|████████████████████████████████████████████████▋ | 7585/12000 [29:18<17:23, 4.23it/s]
train loss:0.01704519689470256
63%|████████████████████████████████████████████████▋ | 7586/12000 [29:18<17:11, 4.28it/s]
train loss:0.0025063005418965445
63%|████████████████████████████████████████████████▋ | 7587/12000 [29:18<17:09, 4.29it/s]
train loss:0.008328187900299815
63%|████████████████████████████████████████████████▋ | 7588/12000 [29:19<17:00, 4.32it/s]
train loss:0.0028121125508022067
63%|████████████████████████████████████████████████▋ | 7589/12000 [29:19<16:47, 4.38it/s]
train loss:0.0001231745186431235
63%|████████████████████████████████████████████████▋ | 7590/12000 [29:19<17:21, 4.23it/s]
train loss:0.0003805994400673631
63%|████████████████████████████████████████████████▋ | 7591/12000 [29:19<17:40, 4.16it/s]
train loss:0.0015037291837108739
63%|████████████████████████████████████████████████▋ | 7592/12000 [29:20<17:29, 4.20it/s]
train loss:0.0034982881875325624
63%|████████████████████████████████████████████████▋ | 7593/12000 [29:20<17:06, 4.29it/s]
train loss:0.001834036201260553
63%|████████████████████████████████████████████████▋ | 7594/12000 [29:20<16:51, 4.35it/s]
train loss:0.0011040260239642437
63%|████████████████████████████████████████████████▋ | 7595/12000 [29:20<16:32, 4.44it/s]
train loss:0.003310156105929782
63%|████████████████████████████████████████████████▋ | 7596/12000 [29:20<16:44, 4.39it/s]
train loss:0.0006500933039255796
63%|████████████████████████████████████████████████▋ | 7597/12000 [29:21<16:30, 4.44it/s]
train loss:0.0011533433283399954
63%|████████████████████████████████████████████████▊ | 7598/12000 [29:21<16:31, 4.44it/s]
train loss:0.0006027872008207908
63%|████████████████████████████████████████████████▊ | 7599/12000 [29:21<16:32, 4.43it/s]
train loss:0.0006128764556677703
63%|████████████████████████████████████████████████▊ | 7600/12000 [29:21<16:22, 4.48it/s]
train loss:0.004592482827850182
63%|████████████████████████████████████████████████▊ | 7601/12000 [29:22<16:33, 4.43it/s]
train loss:0.00039307303521826577
63%|████████████████████████████████████████████████▊ | 7602/12000 [29:22<16:23, 4.47it/s]
train loss:0.0014313018058606274
63%|████████████████████████████████████████████████▊ | 7603/12000 [29:22<16:34, 4.42it/s]
train loss:0.038950936800864436
63%|████████████████████████████████████████████████▊ | 7604/12000 [29:22<16:59, 4.31it/s]
train loss:0.004264371335994494
63%|████████████████████████████████████████████████▊ | 7605/12000 [29:22<17:05, 4.28it/s]
train loss:0.0009894702607532043
63%|████████████████████████████████████████████████▊ | 7606/12000 [29:23<17:04, 4.29it/s]
train loss:0.0005163607657509782
63%|████████████████████████████████████████████████▊ | 7607/12000 [29:23<18:04, 4.05it/s]
train loss:0.002767607502185029
63%|████████████████████████████████████████████████▊ | 7608/12000 [29:23<18:13, 4.02it/s]
train loss:0.00164605848658231
63%|████████████████████████████████████████████████▊ | 7609/12000 [29:24<18:13, 4.02it/s]
train loss:0.005181243382742563
63%|████████████████████████████████████████████████▊ | 7610/12000 [29:24<17:57, 4.07it/s]
train loss:0.0010011242292102401
63%|████████████████████████████████████████████████▊ | 7611/12000 [29:24<17:50, 4.10it/s]
train loss:0.0017654090517212199
63%|████████████████████████████████████████████████▊ | 7612/12000 [29:24<17:50, 4.10it/s]
train loss:0.0053255210244174565
63%|████████████████████████████████████████████████▊ | 7613/12000 [29:24<17:53, 4.09it/s]
train loss:0.003232974689181848
63%|████████████████████████████████████████████████▊ | 7614/12000 [29:25<17:17, 4.23it/s]
train loss:0.00911586339180279
63%|████████████████████████████████████████████████▊ | 7615/12000 [29:25<17:01, 4.29it/s]
train loss:0.001962284139998655
63%|████████████████████████████████████████████████▊ | 7616/12000 [29:25<16:55, 4.32it/s]
train loss:0.012702885086613762
63%|████████████████████████████████████████████████▉ | 7617/12000 [29:25<17:13, 4.24it/s]
train loss:0.002330001888070264
63%|████████████████████████████████████████████████▉ | 7618/12000 [29:26<16:55, 4.32it/s]
train loss:0.0008271206816068796
63%|████████████████████████████████████████████████▉ | 7619/12000 [29:26<17:22, 4.20it/s]
train loss:0.0031469293763617123
64%|████████████████████████████████████████████████▉ | 7620/12000 [29:26<17:21, 4.21it/s]
train loss:0.0008465933808818446
64%|████████████████████████████████████████████████▉ | 7621/12000 [29:26<17:11, 4.25it/s]
train loss:0.0005894187393328889
64%|████████████████████████████████████████████████▉ | 7622/12000 [29:27<17:03, 4.28it/s]
train loss:0.0020250970159286967
64%|████████████████████████████████████████████████▉ | 7623/12000 [29:27<16:35, 4.40it/s]
train loss:0.019056426466591364
64%|████████████████████████████████████████████████▉ | 7624/12000 [29:27<17:08, 4.25it/s]
train loss:0.0009635338261376341
64%|████████████████████████████████████████████████▉ | 7625/12000 [29:27<17:31, 4.16it/s]
train loss:0.002532503285856254
64%|████████████████████████████████████████████████▉ | 7626/12000 [29:28<17:17, 4.22it/s]
train loss:0.0009306520223831158
64%|████████████████████████████████████████████████▉ | 7627/12000 [29:28<16:57, 4.30it/s]
train loss:0.004431314005337455
64%|████████████████████████████████████████████████▉ | 7628/12000 [29:28<16:45, 4.35it/s]
train loss:0.001599561144057405
64%|████████████████████████████████████████████████▉ | 7629/12000 [29:28<16:37, 4.38it/s]
train loss:0.0008022271685642965
64%|████████████████████████████████████████████████▉ | 7630/12000 [29:28<16:32, 4.41it/s]
train loss:0.0033359264244490045
64%|████████████████████████████████████████████████▉ | 7631/12000 [29:29<16:58, 4.29it/s]
train loss:0.004274587249946208
64%|████████████████████████████████████████████████▉ | 7632/12000 [29:29<16:46, 4.34it/s]
train loss:0.003579290244456513
64%|████████████████████████████████████████████████▉ | 7633/12000 [29:29<16:40, 4.37it/s]
train loss:0.0007940863496424935
64%|████████████████████████████████████████████████▉ | 7634/12000 [29:29<16:34, 4.39it/s]
train loss:0.0006762100770410585
64%|████████████████████████████████████████████████▉ | 7635/12000 [29:30<16:29, 4.41it/s]
train loss:0.0006053835725964441
64%|████████████████████████████████████████████████▉ | 7636/12000 [29:30<16:16, 4.47it/s]
train loss:0.003453250266133664
64%|█████████████████████████████████████████████████ | 7637/12000 [29:30<16:28, 4.41it/s]
train loss:0.0018139611333676132
64%|█████████████████████████████████████████████████ | 7638/12000 [29:30<16:25, 4.43it/s]
train loss:0.0009980882612140092
64%|█████████████████████████████████████████████████ | 7639/12000 [29:30<16:22, 4.44it/s]
train loss:0.003745961729090688
64%|█████████████████████████████████████████████████ | 7640/12000 [29:31<16:14, 4.48it/s]
train loss:0.0012672741297049602
64%|█████████████████████████████████████████████████ | 7641/12000 [29:31<16:14, 4.47it/s]
train loss:0.0002912444228786603
64%|█████████████████████████████████████████████████ | 7642/12000 [29:31<16:17, 4.46it/s]
train loss:0.006793394841109901
64%|█████████████████████████████████████████████████ | 7643/12000 [29:31<16:18, 4.45it/s]
train loss:0.001773911851620333
64%|█████████████████████████████████████████████████ | 7644/12000 [29:32<16:16, 4.46it/s]
train loss:0.0015470745894846163
64%|█████████████████████████████████████████████████ | 7645/12000 [29:32<16:05, 4.51it/s]
train loss:0.00312716874594822
64%|█████████████████████████████████████████████████ | 7646/12000 [29:32<16:09, 4.49it/s]
train loss:0.00019858913702562576
64%|█████████████████████████████████████████████████ | 7647/12000 [29:32<16:11, 4.48it/s]
train loss:0.0004944958391649807
64%|█████████████████████████████████████████████████ | 7648/12000 [29:32<16:14, 4.46it/s]
train loss:0.014924972980085424
64%|█████████████████████████████████████████████████ | 7649/12000 [29:33<16:06, 4.50it/s]
train loss:0.0007828514668702082
64%|█████████████████████████████████████████████████ | 7650/12000 [29:33<16:09, 4.49it/s]
train loss:0.0035963734588774863
64%|█████████████████████████████████████████████████ | 7651/12000 [29:33<16:10, 4.48it/s]
train loss:0.0017622953018064413
64%|█████████████████████████████████████████████████ | 7652/12000 [29:33<16:08, 4.49it/s]
train loss:0.001729941917491186
64%|█████████████████████████████████████████████████ | 7653/12000 [29:34<16:08, 4.49it/s]
train loss:0.004156338034535413
64%|█████████████████████████████████████████████████ | 7654/12000 [29:34<15:59, 4.53it/s]
train loss:0.003428491490163572
64%|█████████████████████████████████████████████████ | 7655/12000 [29:34<16:05, 4.50it/s]
train loss:0.0008517033665661862
64%|█████████████████████████████████████████████████▏ | 7656/12000 [29:34<16:06, 4.50it/s]
train loss:0.0004543778666188778
64%|█████████████████████████████████████████████████▏ | 7657/12000 [29:34<16:07, 4.49it/s]
train loss:0.022976733526917578
64%|█████████████████████████████████████████████████▏ | 7658/12000 [29:35<15:58, 4.53it/s]
train loss:0.0032474241419265856
64%|█████████████████████████████████████████████████▏ | 7659/12000 [29:35<16:01, 4.51it/s]
train loss:0.004039236382227733
64%|█████████████████████████████████████████████████▏ | 7660/12000 [29:35<16:04, 4.50it/s]
train loss:0.002715463060418334
64%|█████████████████████████████████████████████████▏ | 7661/12000 [29:35<16:04, 4.50it/s]
train loss:0.011135270585837296
64%|█████████████████████████████████████████████████▏ | 7662/12000 [29:36<16:05, 4.50it/s]
train loss:0.0015182715847378789
64%|█████████████████████████████████████████████████▏ | 7663/12000 [29:36<15:55, 4.54it/s]
train loss:0.0022992272575720276
64%|█████████████████████████████████████████████████▏ | 7664/12000 [29:36<15:59, 4.52it/s]
train loss:0.0006774925571344407
64%|█████████████████████████████████████████████████▏ | 7665/12000 [29:36<16:01, 4.51it/s]
train loss:0.0037320811587182624
64%|█████████████████████████████████████████████████▏ | 7666/12000 [29:36<16:04, 4.49it/s]
train loss:0.011394788454708983
64%|█████████████████████████████████████████████████▏ | 7667/12000 [29:37<15:57, 4.53it/s]
train loss:0.002257479935364568
64%|█████████████████████████████████████████████████▏ | 7668/12000 [29:37<16:03, 4.50it/s]
train loss:0.008921845132621516
64%|█████████████████████████████████████████████████▏ | 7669/12000 [29:37<16:11, 4.46it/s]
train loss:0.0032163122860903483
64%|█████████████████████████████████████████████████▏ | 7670/12000 [29:37<16:16, 4.43it/s]
train loss:0.0014116013613033832
64%|█████████████████████████████████████████████████▏ | 7671/12000 [29:38<16:10, 4.46it/s]
train loss:0.0022642362068550064
64%|█████████████████████████████████████████████████▏ | 7672/12000 [29:38<15:58, 4.52it/s]
train loss:0.004019759222302106
64%|█████████████████████████████████████████████████▏ | 7673/12000 [29:38<16:00, 4.51it/s]
train loss:0.003081079356099527
64%|█████████████████████████████████████████████████▏ | 7674/12000 [29:38<16:01, 4.50it/s]
train loss:0.0024538813164210176
64%|█████████████████████████████████████████████████▏ | 7675/12000 [29:38<16:02, 4.49it/s]
train loss:0.002627596252605743
64%|█████████████████████████████████████████████████▎ | 7676/12000 [29:39<15:52, 4.54it/s]
train loss:0.025285595794109283
64%|█████████████████████████████████████████████████▎ | 7677/12000 [29:39<15:59, 4.50it/s]
train loss:0.002747827250793865
64%|█████████████████████████████████████████████████▎ | 7678/12000 [29:39<16:02, 4.49it/s]
train loss:0.0010280030495316982
64%|█████████████████████████████████████████████████▎ | 7679/12000 [29:39<16:03, 4.48it/s]
train loss:0.007687538735490207
64%|█████████████████████████████████████████████████▎ | 7680/12000 [29:40<16:00, 4.50it/s]
train loss:0.0010114961479289215
64%|█████████████████████████████████████████████████▎ | 7681/12000 [29:40<15:52, 4.53it/s]
train loss:0.005496655219932155
64%|█████████████████████████████████████████████████▎ | 7682/12000 [29:40<15:58, 4.51it/s]
train loss:0.019199830280816496
64%|█████████████████████████████████████████████████▎ | 7683/12000 [29:40<16:00, 4.49it/s]
train loss:0.001317468237737669
64%|█████████████████████████████████████████████████▎ | 7684/12000 [29:40<16:06, 4.47it/s]
train loss:0.007957734250848232
64%|█████████████████████████████████████████████████▎ | 7685/12000 [29:41<15:57, 4.51it/s]
train loss:0.0021754266299044327
64%|█████████████████████████████████████████████████▎ | 7686/12000 [29:41<16:01, 4.49it/s]
train loss:0.0053759171880794565
64%|█████████████████████████████████████████████████▎ | 7687/12000 [29:41<16:03, 4.47it/s]
train loss:0.0025949892944013013
64%|█████████████████████████████████████████████████▎ | 7688/12000 [29:41<16:05, 4.47it/s]
train loss:0.0008107461269718345
64%|█████████████████████████████████████████████████▎ | 7689/12000 [29:42<16:02, 4.48it/s]
train loss:0.013965643374585167
64%|█████████████████████████████████████████████████▎ | 7690/12000 [29:42<15:51, 4.53it/s]
train loss:0.0019263846628661096
64%|█████████████████████████████████████████████████▎ | 7691/12000 [29:42<15:57, 4.50it/s]
train loss:0.021393585132222892
64%|█████████████████████████████████████████████████▎ | 7692/12000 [29:42<15:58, 4.50it/s]
train loss:0.0065035667788652185
64%|█████████████████████████████████████████████████▎ | 7693/12000 [29:42<16:00, 4.49it/s]
train loss:0.005069961992975899
64%|█████████████████████████████████████████████████▎ | 7694/12000 [29:43<15:49, 4.53it/s]
train loss:0.005246114853371084
64%|█████████████████████████████████████████████████▍ | 7695/12000 [29:43<15:52, 4.52it/s]
train loss:0.0001766132796305978
64%|█████████████████████████████████████████████████▍ | 7696/12000 [29:43<15:54, 4.51it/s]
train loss:0.0010793918282366428
64%|█████████████████████████████████████████████████▍ | 7697/12000 [29:43<15:56, 4.50it/s]
train loss:0.0029549129650051995
64%|█████████████████████████████████████████████████▍ | 7698/12000 [29:44<15:54, 4.51it/s]
train loss:0.0008051576437833088
64%|█████████████████████████████████████████████████▍ | 7699/12000 [29:44<15:45, 4.55it/s]
train loss:0.00016258275468840775
64%|█████████████████████████████████████████████████▍ | 7700/12000 [29:44<15:49, 4.53it/s]
train loss:6.909980479431916e-05
64%|█████████████████████████████████████████████████▍ | 7701/12000 [29:44<15:52, 4.52it/s]
train loss:0.0026746234170003822
64%|█████████████████████████████████████████████████▍ | 7702/12000 [29:44<15:55, 4.50it/s]
train loss:0.0018411897391433824
64%|█████████████████████████████████████████████████▍ | 7703/12000 [29:45<15:52, 4.51it/s]
train loss:0.0009061705269309115
64%|█████████████████████████████████████████████████▍ | 7704/12000 [29:45<15:53, 4.50it/s]
train loss:0.0017752771869697498
64%|█████████████████████████████████████████████████▍ | 7705/12000 [29:45<15:54, 4.50it/s]
train loss:0.00478517491536621
64%|█████████████████████████████████████████████████▍ | 7706/12000 [29:45<15:55, 4.49it/s]
train loss:0.000873307618509004
64%|█████████████████████████████████████████████████▍ | 7707/12000 [29:46<15:56, 4.49it/s]
train loss:0.0013785486724513707
64%|█████████████████████████████████████████████████▍ | 7708/12000 [29:46<15:44, 4.54it/s]
train loss:0.00042951935704437275
64%|█████████████████████████████████████████████████▍ | 7709/12000 [29:46<15:48, 4.53it/s]
train loss:0.0014636685367442235
64%|█████████████████████████████████████████████████▍ | 7710/12000 [29:46<15:50, 4.51it/s]
train loss:0.021808270698394507
64%|█████████████████████████████████████████████████▍ | 7711/12000 [29:46<15:53, 4.50it/s]
train loss:0.0033274909320309466
64%|█████████████████████████████████████████████████▍ | 7712/12000 [29:47<15:50, 4.51it/s]
train loss:0.0017218573645959982
64%|█████████████████████████████████████████████████▍ | 7713/12000 [29:47<15:52, 4.50it/s]
train loss:0.006194436700287929
64%|█████████████████████████████████████████████████▍ | 7714/12000 [29:47<15:51, 4.50it/s]
train loss:0.015206986644212302
64%|█████████████████████████████████████████████████▌ | 7715/12000 [29:47<15:52, 4.50it/s]
train loss:0.0007182361258816801
64%|█████████████████████████████████████████████████▌ | 7716/12000 [29:48<15:53, 4.49it/s]
train loss:0.0029212886309712255
64%|█████████████████████████████████████████████████▌ | 7717/12000 [29:48<15:42, 4.55it/s]
train loss:0.0029924285978251124
64%|█████████████████████████████████████████████████▌ | 7718/12000 [29:48<15:45, 4.53it/s]
train loss:0.00030798077877033215
64%|█████████████████████████████████████████████████▌ | 7719/12000 [29:48<15:49, 4.51it/s]
train loss:0.0012008718399585227
64%|█████████████████████████████████████████████████▌ | 7720/12000 [29:48<15:51, 4.50it/s]
train loss:0.001596537095312147
64%|█████████████████████████████████████████████████▌ | 7721/12000 [29:49<15:40, 4.55it/s]
train loss:0.004007874924831242
64%|█████████████████████████████████████████████████▌ | 7722/12000 [29:49<15:45, 4.52it/s]
train loss:0.00230473360350685
64%|█████████████████████████████████████████████████▌ | 7723/12000 [29:49<15:48, 4.51it/s]
train loss:0.0015437572450809254
64%|█████████████████████████████████████████████████▌ | 7724/12000 [29:49<15:50, 4.50it/s]
train loss:0.004054898449411457
64%|█████████████████████████████████████████████████▌ | 7725/12000 [29:50<15:51, 4.49it/s]
train loss:0.0003588497939436314
64%|█████████████████████████████████████████████████▌ | 7726/12000 [29:50<15:42, 4.53it/s]
train loss:0.0025116505768588205
64%|█████████████████████████████████████████████████▌ | 7727/12000 [29:50<15:47, 4.51it/s]
train loss:0.0006043555134995993
64%|█████████████████████████████████████████████████▌ | 7728/12000 [29:50<15:48, 4.50it/s]
train loss:0.0010922263147022662
64%|█████████████████████████████████████████████████▌ | 7729/12000 [29:50<15:50, 4.49it/s]
train loss:0.010098550724530775
64%|█████████████████████████████████████████████████▌ | 7730/12000 [29:51<15:41, 4.54it/s]
train loss:0.00220817851664071
64%|█████████████████████████████████████████████████▌ | 7731/12000 [29:51<15:45, 4.52it/s]
train loss:0.000613196464383201
64%|█████████████████████████████████████████████████▌ | 7732/12000 [29:51<15:54, 4.47it/s]
train loss:0.0017850844341744212
64%|█████████████████████████████████████████████████▌ | 7733/12000 [29:51<15:55, 4.47it/s]
train loss:0.001057504446079216
64%|█████████████████████████████████████████████████▋ | 7734/12000 [29:52<15:56, 4.46it/s]
train loss:0.004438614102345594
64%|█████████████████████████████████████████████████▋ | 7735/12000 [29:52<15:45, 4.51it/s]
train loss:0.0005861402732586398
64%|█████████████████████████████████████████████████▋ | 7736/12000 [29:52<15:47, 4.50it/s]
train loss:0.0014230624568279974
64%|█████████████████████████████████████████████████▋ | 7737/12000 [29:52<15:53, 4.47it/s]
train loss:0.00907175046922914
64%|█████████████████████████████████████████████████▋ | 7738/12000 [29:52<15:53, 4.47it/s]
train loss:0.0015630050402339237
64%|█████████████████████████████████████████████████▋ | 7739/12000 [29:53<15:48, 4.49it/s]
train loss:0.0052636124080557515
64%|█████████████████████████████████████████████████▋ | 7740/12000 [29:53<15:50, 4.48it/s]
train loss:0.0015110388334779856
65%|█████████████████████████████████████████████████▋ | 7741/12000 [29:53<15:51, 4.48it/s]
train loss:0.0014560632445273143
65%|█████████████████████████████████████████████████▋ | 7742/12000 [29:53<15:51, 4.47it/s]
train loss:0.00034839957364012563
65%|█████████████████████████████████████████████████▋ | 7743/12000 [29:54<15:54, 4.46it/s]
train loss:0.0004534182682261893
65%|█████████████████████████████████████████████████▋ | 7744/12000 [29:54<15:41, 4.52it/s]
train loss:0.00764100156072584
65%|█████████████████████████████████████████████████▋ | 7745/12000 [29:54<15:43, 4.51it/s]
train loss:0.0013574176967408088
65%|█████████████████████████████████████████████████▋ | 7746/12000 [29:54<15:46, 4.50it/s]
train loss:0.008555692376803026
65%|█████████████████████████████████████████████████▋ | 7747/12000 [29:54<15:50, 4.47it/s]
train loss:0.0029431828359721664
65%|█████████████████████████████████████████████████▋ | 7748/12000 [29:55<15:40, 4.52it/s]
train loss:0.005122251667455696
65%|█████████████████████████████████████████████████▋ | 7749/12000 [29:55<15:45, 4.50it/s]
train loss:0.019498174102516683
65%|█████████████████████████████████████████████████▋ | 7750/12000 [29:55<15:47, 4.49it/s]
train loss:0.018061145098361972
65%|█████████████████████████████████████████████████▋ | 7751/12000 [29:55<16:03, 4.41it/s]
train loss:0.0006503597299033705
65%|█████████████████████████████████████████████████▋ | 7752/12000 [29:56<15:57, 4.44it/s]
train loss:0.000479496741029223
65%|█████████████████████████████████████████████████▋ | 7753/12000 [29:56<15:46, 4.49it/s]
train loss:0.009277611743333622
65%|█████████████████████████████████████████████████▊ | 7754/12000 [29:56<15:49, 4.47it/s]
train loss:0.021673349343045465
65%|█████████████████████████████████████████████████▊ | 7755/12000 [29:56<15:52, 4.46it/s]
train loss:0.000865346446993851
65%|█████████████████████████████████████████████████▊ | 7756/12000 [29:56<15:54, 4.45it/s]
train loss:0.0052694164781844155
65%|█████████████████████████████████████████████████▊ | 7757/12000 [29:57<15:59, 4.42it/s]
train loss:0.003235108980358623
65%|█████████████████████████████████████████████████▊ | 7758/12000 [29:57<15:51, 4.46it/s]
train loss:0.004759646861533221
65%|█████████████████████████████████████████████████▊ | 7759/12000 [29:57<15:58, 4.42it/s]
train loss:0.003739655733738132
65%|█████████████████████████████████████████████████▊ | 7760/12000 [29:57<15:59, 4.42it/s]
train loss:0.003424082932487606
65%|█████████████████████████████████████████████████▊ | 7761/12000 [29:58<15:55, 4.44it/s]
train loss:0.0008329587639058362
65%|█████████████████████████████████████████████████▊ | 7762/12000 [29:58<15:49, 4.46it/s]
train loss:0.005954560822809926
65%|█████████████████████████████████████████████████▊ | 7763/12000 [29:58<15:49, 4.46it/s]
train loss:0.00479731085773579
65%|█████████████████████████████████████████████████▊ | 7764/12000 [29:58<15:50, 4.46it/s]
train loss:0.0018238301899478374
65%|█████████████████████████████████████████████████▊ | 7765/12000 [29:58<15:51, 4.45it/s]
train loss:0.011565871815097052
65%|█████████████████████████████████████████████████▊ | 7766/12000 [29:59<15:38, 4.51it/s]
train loss:0.006445275195888467
65%|█████████████████████████████████████████████████▊ | 7767/12000 [29:59<15:41, 4.50it/s]
train loss:0.0008112433241417576
65%|█████████████████████████████████████████████████▊ | 7768/12000 [29:59<15:44, 4.48it/s]
train loss:0.003355320807850168
65%|█████████████████████████████████████████████████▊ | 7769/12000 [29:59<15:45, 4.48it/s]
train loss:0.0021071536001126662
65%|█████████████████████████████████████████████████▊ | 7770/12000 [30:00<15:40, 4.50it/s]
train loss:0.008037361238228725
65%|█████████████████████████████████████████████████▊ | 7771/12000 [30:00<15:37, 4.51it/s]
train loss:0.007359768024327795
65%|█████████████████████████████████████████████████▊ | 7772/12000 [30:00<15:41, 4.49it/s]
train loss:0.0014683798112868668
65%|█████████████████████████████████████████████████▉ | 7773/12000 [30:00<15:44, 4.48it/s]
train loss:0.00021342027542176726
65%|█████████████████████████████████████████████████▉ | 7774/12000 [30:00<15:48, 4.45it/s]
train loss:0.0012530473985980948
65%|█████████████████████████████████████████████████▉ | 7775/12000 [30:01<15:35, 4.52it/s]
train loss:0.005702052994450095
65%|█████████████████████████████████████████████████▉ | 7776/12000 [30:01<15:38, 4.50it/s]
train loss:0.007780460531680623
65%|█████████████████████████████████████████████████▉ | 7777/12000 [30:01<15:41, 4.48it/s]
train loss:0.00021045149922057968
65%|█████████████████████████████████████████████████▉ | 7778/12000 [30:01<15:42, 4.48it/s]
train loss:0.0009316441761154533
65%|█████████████████████████████████████████████████▉ | 7779/12000 [30:02<15:38, 4.50it/s]
train loss:0.006170954664643283
65%|█████████████████████████████████████████████████▉ | 7780/12000 [30:02<15:36, 4.51it/s]
train loss:0.0032499254067212143
65%|█████████████████████████████████████████████████▉ | 7781/12000 [30:02<15:40, 4.49it/s]
train loss:0.002814421499168062
65%|█████████████████████████████████████████████████▉ | 7782/12000 [30:02<15:42, 4.47it/s]
train loss:0.004274999211089023
65%|█████████████████████████████████████████████████▉ | 7783/12000 [30:03<15:54, 4.42it/s]
train loss:0.0006400060306666519
65%|█████████████████████████████████████████████████▉ | 7784/12000 [30:03<15:41, 4.48it/s]
train loss:0.003644179790262868
65%|█████████████████████████████████████████████████▉ | 7785/12000 [30:03<15:43, 4.47it/s]
train loss:0.0011520803522024454
65%|█████████████████████████████████████████████████▉ | 7786/12000 [30:03<15:43, 4.47it/s]
train loss:0.004831096210977961
65%|█████████████████████████████████████████████████▉ | 7787/12000 [30:03<15:42, 4.47it/s]
train loss:0.0057758471407243364
65%|█████████████████████████████████████████████████▉ | 7788/12000 [30:04<15:38, 4.49it/s]
train loss:0.00012320120765286878
65%|█████████████████████████████████████████████████▉ | 7789/12000 [30:04<15:37, 4.49it/s]
train loss:0.001887374560449317
65%|█████████████████████████████████████████████████▉ | 7790/12000 [30:04<15:41, 4.47it/s]
train loss:0.0013682392112763925
65%|█████████████████████████████████████████████████▉ | 7791/12000 [30:04<15:41, 4.47it/s]
train loss:0.006004148303297703
65%|█████████████████████████████████████████████████▉ | 7792/12000 [30:05<15:43, 4.46it/s]
train loss:0.0009181767243233947
65%|██████████████████████████████████████████████████ | 7793/12000 [30:05<15:31, 4.52it/s]
train loss:0.011767106232496273
65%|██████████████████████████████████████████████████ | 7794/12000 [30:05<15:34, 4.50it/s]
train loss:0.0007464789789561785
65%|██████████████████████████████████████████████████ | 7795/12000 [30:05<15:36, 4.49it/s]
train loss:0.005465729449895096
65%|██████████████████████████████████████████████████ | 7796/12000 [30:05<15:43, 4.46it/s]
train loss:0.0034683367857100762
65%|██████████████████████████████████████████████████ | 7797/12000 [30:06<15:36, 4.49it/s]
train loss:0.006647410461902421
65%|██████████████████████████████████████████████████ | 7798/12000 [30:06<15:35, 4.49it/s]
train loss:0.004204014690709655
65%|██████████████████████████████████████████████████ | 7799/12000 [30:06<15:35, 4.49it/s]
train loss:0.003344528239382744
65%|██████████████████████████████████████████████████ | 7800/12000 [30:06<15:37, 4.48it/s]
train loss:0.006833140091323019 train loss:0.0014029569712376872
65%|██████████████████████████████████████████████████ | 7801/12000 [30:08<48:11, 1.45it/s]
=== epoch:14, train acc:0.993, test acc:0.987 ===
65%|██████████████████████████████████████████████████ | 7802/12000 [30:08<38:25, 1.82it/s]
train loss:0.011115386735987077
65%|██████████████████████████████████████████████████ | 7803/12000 [30:09<31:40, 2.21it/s]
train loss:0.0021883353564118523
65%|██████████████████████████████████████████████████ | 7804/12000 [30:09<26:40, 2.62it/s]
train loss:8.843799903680158e-05
65%|██████████████████████████████████████████████████ | 7805/12000 [30:09<23:23, 2.99it/s]
train loss:0.003177954115184549
65%|██████████████████████████████████████████████████ | 7806/12000 [30:09<21:04, 3.32it/s]
train loss:0.01530460780793635
65%|██████████████████████████████████████████████████ | 7807/12000 [30:09<19:26, 3.59it/s]
train loss:0.00337183105547381
65%|██████████████████████████████████████████████████ | 7808/12000 [30:10<18:11, 3.84it/s]
train loss:0.0005304351027931772
65%|██████████████████████████████████████████████████ | 7809/12000 [30:10<17:23, 4.02it/s]
train loss:0.000725830669073902
65%|██████████████████████████████████████████████████ | 7810/12000 [30:10<16:58, 4.12it/s]
train loss:0.0016714722943505815
65%|██████████████████████████████████████████████████ | 7811/12000 [30:10<16:34, 4.21it/s]
train loss:0.004976562674082057
65%|██████████████████████████████████████████████████▏ | 7812/12000 [30:11<16:19, 4.27it/s]
train loss:0.007236621503506762
65%|██████████████████████████████████████████████████▏ | 7813/12000 [30:11<15:59, 4.36it/s]
train loss:0.005294532328065721
65%|██████████████████████████████████████████████████▏ | 7814/12000 [30:11<15:52, 4.39it/s]
train loss:0.0024879809643876464
65%|██████████████████████████████████████████████████▏ | 7815/12000 [30:11<15:51, 4.40it/s]
train loss:0.0007293541442217188
65%|██████████████████████████████████████████████████▏ | 7816/12000 [30:11<15:48, 4.41it/s]
train loss:0.00042816013871193736
65%|██████████████████████████████████████████████████▏ | 7817/12000 [30:12<15:42, 4.44it/s]
train loss:0.0009327734272257537
65%|██████████████████████████████████████████████████▏ | 7818/12000 [30:12<15:45, 4.42it/s]
train loss:0.0005288010551516702
65%|██████████████████████████████████████████████████▏ | 7819/12000 [30:12<15:44, 4.43it/s]
train loss:0.006584706919061898
65%|██████████████████████████████████████████████████▏ | 7820/12000 [30:12<15:41, 4.44it/s]
train loss:0.01053664106519599
65%|██████████████████████████████████████████████████▏ | 7821/12000 [30:13<15:53, 4.38it/s]
train loss:0.0034425309304603104
65%|██████████████████████████████████████████████████▏ | 7822/12000 [30:13<15:35, 4.46it/s]
train loss:0.001676078236625008
65%|██████████████████████████████████████████████████▏ | 7823/12000 [30:13<15:35, 4.46it/s]
train loss:0.0036702454654415125
65%|██████████████████████████████████████████████████▏ | 7824/12000 [30:13<16:01, 4.34it/s]
train loss:0.021779356237785
65%|██████████████████████████████████████████████████▏ | 7825/12000 [30:13<15:52, 4.38it/s]
train loss:0.00020522551036868814
65%|██████████████████████████████████████████████████▏ | 7826/12000 [30:14<15:35, 4.46it/s]
train loss:0.007329646924896059
65%|██████████████████████████████████████████████████▏ | 7827/12000 [30:14<15:57, 4.36it/s]
train loss:0.0058051893278851605
65%|██████████████████████████████████████████████████▏ | 7828/12000 [30:14<15:53, 4.38it/s]
train loss:0.01612557322319018
65%|██████████████████████████████████████████████████▏ | 7829/12000 [30:14<15:46, 4.41it/s]
train loss:0.001051268390898886
65%|██████████████████████████████████████████████████▏ | 7830/12000 [30:15<15:41, 4.43it/s]
train loss:0.00547250958398499
65%|██████████████████████████████████████████████████▏ | 7831/12000 [30:15<15:33, 4.46it/s]
train loss:0.002191315671520217
65%|██████████████████████████████████████████████████▎ | 7832/12000 [30:15<15:31, 4.48it/s]
train loss:0.009603452610002321
65%|██████████████████████████████████████████████████▎ | 7833/12000 [30:15<15:34, 4.46it/s]
train loss:0.0015392872527121787
65%|██████████████████████████████████████████████████▎ | 7834/12000 [30:15<15:41, 4.43it/s]
train loss:0.00048085090170265103
65%|██████████████████████████████████████████████████▎ | 7835/12000 [30:16<15:27, 4.49it/s]
train loss:0.00893215428635727
65%|██████████████████████████████████████████████████▎ | 7836/12000 [30:16<15:27, 4.49it/s]
train loss:0.0006483777697701794
65%|██████████████████████████████████████████████████▎ | 7837/12000 [30:16<15:27, 4.49it/s]
train loss:0.000525599708403044
65%|██████████████████████████████████████████████████▎ | 7838/12000 [30:16<15:26, 4.49it/s]
train loss:0.005674026791043346
65%|██████████████████████████████████████████████████▎ | 7839/12000 [30:17<15:23, 4.51it/s]
train loss:0.004060016298816149
65%|██████████████████████████████████████████████████▎ | 7840/12000 [30:17<15:20, 4.52it/s]
train loss:0.0052481279108465215
65%|██████████████████████████████████████████████████▎ | 7841/12000 [30:17<15:23, 4.50it/s]
train loss:0.0059468035768264925
65%|██████████████████████████████████████████████████▎ | 7842/12000 [30:17<15:24, 4.50it/s]
train loss:0.002595681093888657
65%|██████████████████████████████████████████████████▎ | 7843/12000 [30:17<15:30, 4.47it/s]
train loss:0.0006696714483712568
65%|██████████████████████████████████████████████████▎ | 7844/12000 [30:18<15:16, 4.53it/s]
train loss:0.003094508935979992
65%|██████████████████████████████████████████████████▎ | 7845/12000 [30:18<15:19, 4.52it/s]
train loss:0.01659180591171321
65%|██████████████████████████████████████████████████▎ | 7846/12000 [30:18<15:24, 4.50it/s]
train loss:0.0075250680885857735
65%|██████████████████████████████████████████████████▎ | 7847/12000 [30:18<15:24, 4.49it/s]
train loss:0.0016790013301440695
65%|██████████████████████████████████████████████████▎ | 7848/12000 [30:19<15:22, 4.50it/s]
train loss:0.00030863369169351355
65%|██████████████████████████████████████████████████▎ | 7849/12000 [30:19<15:20, 4.51it/s]
train loss:0.010560393978205575
65%|██████████████████████████████████████████████████▎ | 7850/12000 [30:19<15:24, 4.49it/s]
train loss:0.002771496117808625
65%|██████████████████████████████████████████████████▍ | 7851/12000 [30:19<15:28, 4.47it/s]
train loss:0.0014695756020155503
65%|██████████████████████████████████████████████████▍ | 7852/12000 [30:19<15:27, 4.47it/s]
train loss:0.007928459684109991
65%|██████████████████████████████████████████████████▍ | 7853/12000 [30:20<15:16, 4.52it/s]
train loss:0.0018203752402774535
65%|██████████████████████████████████████████████████▍ | 7854/12000 [30:20<15:18, 4.51it/s]
train loss:0.0017022715095374747
65%|██████████████████████████████████████████████████▍ | 7855/12000 [30:20<15:21, 4.50it/s]
train loss:0.0012144720894006246
65%|██████████████████████████████████████████████████▍ | 7856/12000 [30:20<15:22, 4.49it/s]
train loss:0.00022677723183982143
65%|██████████████████████████████████████████████████▍ | 7857/12000 [30:21<15:18, 4.51it/s]
train loss:0.0019256224355619763
65%|██████████████████████████████████████████████████▍ | 7858/12000 [30:21<15:17, 4.51it/s]
train loss:0.02136836431752644
65%|██████████████████████████████████████████████████▍ | 7859/12000 [30:21<15:20, 4.50it/s]
train loss:0.01075142109719139
66%|██████████████████████████████████████████████████▍ | 7860/12000 [30:21<15:22, 4.49it/s]
train loss:0.012021616166291884
66%|██████████████████████████████████████████████████▍ | 7862/12000 [30:22<15:12, 4.54it/s]
train loss:0.001704170080293526 train loss:0.0014083107887265833
66%|██████████████████████████████████████████████████▍ | 7863/12000 [30:22<15:17, 4.51it/s]
train loss:0.0012333571039400445
66%|██████████████████████████████████████████████████▍ | 7864/12000 [30:22<15:19, 4.50it/s]
train loss:0.00554911807106706
66%|██████████████████████████████████████████████████▍ | 7865/12000 [30:22<15:19, 4.50it/s]
train loss:0.0005169924090640396
66%|██████████████████████████████████████████████████▍ | 7866/12000 [30:23<15:17, 4.50it/s]
train loss:0.0008067052630126383
66%|██████████████████████████████████████████████████▍ | 7867/12000 [30:23<15:15, 4.52it/s]
train loss:0.004241169359441972
66%|██████████████████████████████████████████████████▍ | 7868/12000 [30:23<15:15, 4.51it/s]
train loss:0.0017173921484629105
66%|██████████████████████████████████████████████████▍ | 7869/12000 [30:23<15:17, 4.50it/s]
train loss:0.011287792426625415
66%|██████████████████████████████████████████████████▍ | 7870/12000 [30:24<15:44, 4.37it/s]
train loss:0.0022685158631560666
66%|██████████████████████████████████████████████████▌ | 7871/12000 [30:24<15:29, 4.44it/s]
train loss:0.004362520148699467
66%|██████████████████████████████████████████████████▌ | 7872/12000 [30:24<15:28, 4.45it/s]
train loss:0.0005067495008847535
66%|██████████████████████████████████████████████████▌ | 7873/12000 [30:24<15:26, 4.45it/s]
train loss:0.0029682003842357602
66%|██████████████████████████████████████████████████▌ | 7874/12000 [30:24<15:23, 4.47it/s]
train loss:0.0022153724160971135
66%|██████████████████████████████████████████████████▌ | 7875/12000 [30:25<15:31, 4.43it/s]
train loss:0.005664640495605337
66%|██████████████████████████████████████████████████▌ | 7876/12000 [30:25<15:28, 4.44it/s]
train loss:0.003263539610309788
66%|██████████████████████████████████████████████████▌ | 7877/12000 [30:25<15:27, 4.45it/s]
train loss:0.001587533796013953
66%|██████████████████████████████████████████████████▌ | 7878/12000 [30:25<15:25, 4.45it/s]
train loss:0.0010054805531471347
66%|██████████████████████████████████████████████████▌ | 7879/12000 [30:26<15:24, 4.46it/s]
train loss:0.008742450875483844
66%|██████████████████████████████████████████████████▌ | 7880/12000 [30:26<15:18, 4.49it/s]
train loss:0.00039408432820192246
66%|██████████████████████████████████████████████████▌ | 7881/12000 [30:26<15:57, 4.30it/s]
train loss:0.0011406439030482568
66%|██████████████████████████████████████████████████▌ | 7882/12000 [30:26<15:45, 4.35it/s]
train loss:0.00398962615807693
66%|██████████████████████████████████████████████████▌ | 7883/12000 [30:26<15:41, 4.37it/s]
train loss:0.00848304639279994
66%|██████████████████████████████████████████████████▌ | 7884/12000 [30:27<15:25, 4.45it/s]
train loss:0.001829429759766611
66%|██████████████████████████████████████████████████▌ | 7885/12000 [30:27<15:25, 4.45it/s]
train loss:0.0022207080657264096
66%|██████████████████████████████████████████████████▌ | 7886/12000 [30:27<15:25, 4.45it/s]
train loss:0.041716248001626835
66%|██████████████████████████████████████████████████▌ | 7887/12000 [30:27<15:25, 4.45it/s]
train loss:0.0049321151204512505
66%|██████████████████████████████████████████████████▌ | 7888/12000 [30:28<15:25, 4.44it/s]
train loss:0.002069666003023069
66%|██████████████████████████████████████████████████▌ | 7889/12000 [30:28<15:20, 4.47it/s]
train loss:0.007365878406864323
66%|██████████████████████████████████████████████████▋ | 7890/12000 [30:28<15:25, 4.44it/s]
train loss:0.002272791523708985
66%|██████████████████████████████████████████████████▋ | 7891/12000 [30:28<15:26, 4.44it/s]
train loss:7.959744664095545e-05
66%|██████████████████████████████████████████████████▋ | 7892/12000 [30:28<15:29, 4.42it/s]
train loss:0.0007224193315770122
66%|██████████████████████████████████████████████████▋ | 7893/12000 [30:29<15:16, 4.48it/s]
train loss:0.0003903685278878766
66%|██████████████████████████████████████████████████▋ | 7894/12000 [30:29<15:17, 4.48it/s]
train loss:0.0009460964626826302
66%|██████████████████████████████████████████████████▋ | 7895/12000 [30:29<15:21, 4.45it/s]
train loss:0.0002560665445226419
66%|██████████████████████████████████████████████████▋ | 7896/12000 [30:29<15:22, 4.45it/s]
train loss:0.00029226171746685626
66%|██████████████████████████████████████████████████▋ | 7897/12000 [30:30<15:23, 4.44it/s]
train loss:0.001713364196698609
66%|██████████████████████████████████████████████████▋ | 7898/12000 [30:30<15:46, 4.33it/s]
train loss:0.004073763218736015
66%|██████████████████████████████████████████████████▋ | 7899/12000 [30:30<15:59, 4.28it/s]
train loss:0.004887596317725103
66%|██████████████████████████████████████████████████▋ | 7900/12000 [30:30<16:15, 4.20it/s]
train loss:0.003190058781152055
66%|██████████████████████████████████████████████████▋ | 7901/12000 [30:31<16:02, 4.26it/s]
train loss:0.0013319641834424177
66%|██████████████████████████████████████████████████▋ | 7902/12000 [30:31<15:48, 4.32it/s]
train loss:0.03418278288512708
66%|██████████████████████████████████████████████████▋ | 7903/12000 [30:31<15:42, 4.35it/s]
train loss:0.002037980155766063
66%|██████████████████████████████████████████████████▋ | 7904/12000 [30:31<16:05, 4.24it/s]
train loss:0.0012325196408627013
66%|██████████████████████████████████████████████████▋ | 7905/12000 [30:31<15:52, 4.30it/s]
train loss:0.001345167295067871
66%|██████████████████████████████████████████████████▋ | 7906/12000 [30:32<15:40, 4.35it/s]
train loss:0.0010723844927202544
66%|██████████████████████████████████████████████████▋ | 7907/12000 [30:32<15:35, 4.37it/s]
train loss:0.005905411810535238
66%|██████████████████████████████████████████████████▋ | 7908/12000 [30:32<15:34, 4.38it/s]
train loss:0.002335909559671293
66%|██████████████████████████████████████████████████▋ | 7909/12000 [30:32<15:30, 4.40it/s]
train loss:0.00038635434031029594
66%|██████████████████████████████████████████████████▊ | 7910/12000 [30:33<15:37, 4.36it/s]
train loss:0.0010910357482300348
66%|██████████████████████████████████████████████████▊ | 7911/12000 [30:33<15:29, 4.40it/s]
train loss:0.0017922630503684688
66%|██████████████████████████████████████████████████▊ | 7912/12000 [30:33<15:28, 4.40it/s]
train loss:0.0007311537419969459
66%|██████████████████████████████████████████████████▊ | 7913/12000 [30:33<15:25, 4.41it/s]
train loss:0.0012820353562983298
66%|██████████████████████████████████████████████████▊ | 7914/12000 [30:33<15:27, 4.41it/s]
train loss:0.00143046241701002
66%|██████████████████████████████████████████████████▊ | 7915/12000 [30:34<15:13, 4.47it/s]
train loss:0.011839864548378078
66%|██████████████████████████████████████████████████▊ | 7916/12000 [30:34<15:52, 4.29it/s]
train loss:0.00019885151115446782
66%|██████████████████████████████████████████████████▊ | 7917/12000 [30:34<15:46, 4.31it/s]
train loss:0.002517435826943046
66%|██████████████████████████████████████████████████▊ | 7918/12000 [30:34<15:39, 4.35it/s]
train loss:0.0027390720115212036
66%|██████████████████████████████████████████████████▊ | 7919/12000 [30:35<15:23, 4.42it/s]
train loss:0.008680341207126829
66%|██████████████████████████████████████████████████▊ | 7920/12000 [30:35<15:20, 4.43it/s]
train loss:0.0010498004186876447
66%|██████████████████████████████████████████████████▊ | 7921/12000 [30:35<15:19, 4.44it/s]
train loss:0.0035998402545966094
66%|██████████████████████████████████████████████████▊ | 7922/12000 [30:35<15:20, 4.43it/s]
train loss:0.008810676166727848
66%|██████████████████████████████████████████████████▊ | 7923/12000 [30:36<15:21, 4.42it/s]
train loss:0.0011154308898625317
66%|██████████████████████████████████████████████████▊ | 7924/12000 [30:36<15:07, 4.49it/s]
train loss:0.002838752669732802
66%|██████████████████████████████████████████████████▊ | 7925/12000 [30:36<15:08, 4.49it/s]
train loss:0.0011666463206082653
66%|██████████████████████████████████████████████████▊ | 7926/12000 [30:36<15:10, 4.47it/s]
train loss:0.03489768158515842
66%|██████████████████████████████████████████████████▊ | 7927/12000 [30:36<15:10, 4.47it/s]
train loss:0.009875960929633297
66%|██████████████████████████████████████████████████▊ | 7928/12000 [30:37<15:00, 4.52it/s]
train loss:0.0077400389795546
66%|██████████████████████████████████████████████████▉ | 7929/12000 [30:37<15:31, 4.37it/s]
train loss:0.0014376634595498036
66%|██████████████████████████████████████████████████▉ | 7930/12000 [30:37<15:26, 4.39it/s]
train loss:0.009503926468083177
66%|██████████████████████████████████████████████████▉ | 7931/12000 [30:37<15:22, 4.41it/s]
train loss:7.224250753867603e-05
66%|██████████████████████████████████████████████████▉ | 7932/12000 [30:38<15:16, 4.44it/s]
train loss:0.0003365576043040061
66%|██████████████████████████████████████████████████▉ | 7933/12000 [30:38<15:07, 4.48it/s]
train loss:0.0031899284199191384
66%|██████████████████████████████████████████████████▉ | 7934/12000 [30:38<15:09, 4.47it/s]
train loss:0.0044685464971077294
66%|██████████████████████████████████████████████████▉ | 7935/12000 [30:38<15:12, 4.46it/s]
train loss:0.004375152153358724
66%|██████████████████████████████████████████████████▉ | 7936/12000 [30:38<15:12, 4.45it/s]
train loss:0.0029990980560275055
66%|██████████████████████████████████████████████████▉ | 7937/12000 [30:39<15:00, 4.51it/s]
train loss:0.0009906467973483139
66%|██████████████████████████████████████████████████▉ | 7938/12000 [30:39<15:04, 4.49it/s]
train loss:0.0019369024004118292
66%|██████████████████████████████████████████████████▉ | 7939/12000 [30:39<15:09, 4.46it/s]
train loss:0.007294536215983701
66%|██████████████████████████████████████████████████▉ | 7940/12000 [30:39<15:12, 4.45it/s]
train loss:0.00226293755665219
66%|██████████████████████████████████████████████████▉ | 7941/12000 [30:40<15:11, 4.46it/s]
train loss:0.00044658852770138285
66%|██████████████████████████████████████████████████▉ | 7942/12000 [30:40<15:03, 4.49it/s]
train loss:0.002215443648159731
66%|██████████████████████████████████████████████████▉ | 7943/12000 [30:40<15:04, 4.48it/s]
train loss:0.00226743055660969
66%|██████████████████████████████████████████████████▉ | 7944/12000 [30:40<15:09, 4.46it/s]
train loss:0.0029926554669981865
66%|██████████████████████████████████████████████████▉ | 7945/12000 [30:40<15:10, 4.46it/s]
train loss:0.001617637966420115
66%|██████████████████████████████████████████████████▉ | 7946/12000 [30:41<15:05, 4.48it/s]
train loss:0.0017144935380072417
66%|██████████████████████████████████████████████████▉ | 7947/12000 [30:41<15:05, 4.48it/s]
train loss:0.0019412870077432176
66%|██████████████████████████████████████████████████▉ | 7948/12000 [30:41<15:08, 4.46it/s]
train loss:0.0006305855834018235
66%|███████████████████████████████████████████████████ | 7949/12000 [30:41<15:09, 4.46it/s]
train loss:0.013596617446296828
66%|███████████████████████████████████████████████████ | 7950/12000 [30:42<15:12, 4.44it/s]
train loss:0.0009150822140048591
66%|███████████████████████████████████████████████████ | 7951/12000 [30:42<15:08, 4.46it/s]
train loss:0.007741648399736466
66%|███████████████████████████████████████████████████ | 7952/12000 [30:42<15:06, 4.47it/s]
train loss:0.0027779067292964896
66%|███████████████████████████████████████████████████ | 7953/12000 [30:42<15:07, 4.46it/s]
train loss:0.0013502001931411268
66%|███████████████████████████████████████████████████ | 7954/12000 [30:42<15:10, 4.44it/s]
train loss:0.0002725291075115393
66%|███████████████████████████████████████████████████ | 7955/12000 [30:43<14:59, 4.50it/s]
train loss:0.006431455526666514
66%|███████████████████████████████████████████████████ | 7956/12000 [30:43<15:07, 4.46it/s]
train loss:0.008142012334648605
66%|███████████████████████████████████████████████████ | 7957/12000 [30:43<15:07, 4.45it/s]
train loss:0.0010165944437184476
66%|███████████████████████████████████████████████████ | 7958/12000 [30:43<15:07, 4.46it/s]
train loss:0.00046718677846283827
66%|███████████████████████████████████████████████████ | 7959/12000 [30:44<15:02, 4.48it/s]
train loss:0.00020831430479986452
66%|███████████████████████████████████████████████████ | 7960/12000 [30:44<15:03, 4.47it/s]
train loss:0.0013830365910899303
66%|███████████████████████████████████████████████████ | 7961/12000 [30:44<15:06, 4.46it/s]
train loss:0.014555440941240238
66%|███████████████████████████████████████████████████ | 7962/12000 [30:44<15:37, 4.31it/s]
train loss:0.005046369481355125
66%|███████████████████████████████████████████████████ | 7963/12000 [30:45<15:30, 4.34it/s]
train loss:0.004811508684715761
66%|███████████████████████████████████████████████████ | 7964/12000 [30:45<15:10, 4.43it/s]
train loss:0.00012520773918650637
66%|███████████████████████████████████████████████████ | 7965/12000 [30:45<15:10, 4.43it/s]
train loss:0.002815715863561185
66%|███████████████████████████████████████████████████ | 7966/12000 [30:45<15:09, 4.43it/s]
train loss:0.0007373560259266845
66%|███████████████████████████████████████████████████ | 7967/12000 [30:45<15:08, 4.44it/s]
train loss:0.0002222421767243313
66%|███████████████████████████████████████████████████▏ | 7968/12000 [30:46<14:57, 4.49it/s]
train loss:0.0014466917480790943
66%|███████████████████████████████████████████████████▏ | 7969/12000 [30:46<15:00, 4.48it/s]
train loss:0.0034609799924616084
66%|███████████████████████████████████████████████████▏ | 7970/12000 [30:46<15:02, 4.47it/s]
train loss:0.007211421625655089
66%|███████████████████████████████████████████████████▏ | 7971/12000 [30:46<15:03, 4.46it/s]
train loss:0.0035964585158946454
66%|███████████████████████████████████████████████████▏ | 7972/12000 [30:47<15:05, 4.45it/s]
train loss:0.003970125134054965
66%|███████████████████████████████████████████████████▏ | 7973/12000 [30:47<14:58, 4.48it/s]
train loss:0.006268714206719421
66%|███████████████████████████████████████████████████▏ | 7974/12000 [30:47<15:00, 4.47it/s]
train loss:0.0062248684691976865
66%|███████████████████████████████████████████████████▏ | 7975/12000 [30:47<15:01, 4.46it/s]
train loss:0.0023853575079987
66%|███████████████████████████████████████████████████▏ | 7976/12000 [30:47<15:02, 4.46it/s]
train loss:0.0003812643890551444
66%|███████████████████████████████████████████████████▏ | 7977/12000 [30:48<14:52, 4.51it/s]
train loss:0.0003966081656848329
66%|███████████████████████████████████████████████████▏ | 7978/12000 [30:48<14:56, 4.49it/s]
train loss:0.005275089010844981
66%|███████████████████████████████████████████████████▏ | 7979/12000 [30:48<14:58, 4.47it/s]
train loss:0.007186762644546845
66%|███████████████████████████████████████████████████▏ | 7980/12000 [30:48<14:59, 4.47it/s]
train loss:0.0010944732528199298
67%|███████████████████████████████████████████████████▏ | 7981/12000 [30:49<15:00, 4.46it/s]
train loss:0.001358337975836036
67%|███████████████████████████████████████████████████▏ | 7982/12000 [30:49<14:51, 4.51it/s]
train loss:0.0027908808210032904
67%|███████████████████████████████████████████████████▏ | 7983/12000 [30:49<14:54, 4.49it/s]
train loss:0.003551218889913763
67%|███████████████████████████████████████████████████▏ | 7984/12000 [30:49<14:58, 4.47it/s]
train loss:0.000541211303145199
67%|███████████████████████████████████████████████████▏ | 7985/12000 [30:49<14:59, 4.46it/s]
train loss:0.005185637143026512
67%|███████████████████████████████████████████████████▏ | 7986/12000 [30:50<14:50, 4.51it/s]
train loss:0.000280031758887157
67%|███████████████████████████████████████████████████▏ | 7987/12000 [30:50<14:53, 4.49it/s]
train loss:0.0005589128098593617
67%|███████████████████████████████████████████████████▎ | 7988/12000 [30:50<15:06, 4.42it/s]
train loss:0.0009653836706689934
67%|███████████████████████████████████████████████████▎ | 7989/12000 [30:50<15:07, 4.42it/s]
train loss:0.004906763846706058
67%|███████████████████████████████████████████████████▎ | 7990/12000 [30:51<15:03, 4.44it/s]
train loss:0.005719681038592398
67%|███████████████████████████████████████████████████▎ | 7991/12000 [30:51<14:51, 4.50it/s]
train loss:0.002478475905835202
67%|███████████████████████████████████████████████████▎ | 7992/12000 [30:51<15:01, 4.45it/s]
train loss:0.002962193960632539
67%|███████████████████████████████████████████████████▎ | 7993/12000 [30:51<15:01, 4.45it/s]
train loss:0.0013251573089141657
67%|███████████████████████████████████████████████████▎ | 7994/12000 [30:51<15:01, 4.44it/s]
train loss:0.025909326635523117
67%|███████████████████████████████████████████████████▎ | 7995/12000 [30:52<14:51, 4.49it/s]
train loss:0.001854086284218285
67%|███████████████████████████████████████████████████▎ | 7996/12000 [30:52<14:56, 4.47it/s]
train loss:0.0007732043540631155
67%|███████████████████████████████████████████████████▎ | 7997/12000 [30:52<14:57, 4.46it/s]
train loss:0.0006200013149401261
67%|███████████████████████████████████████████████████▎ | 7998/12000 [30:52<14:58, 4.45it/s]
train loss:0.003028152053012834
67%|███████████████████████████████████████████████████▎ | 7999/12000 [30:53<14:56, 4.46it/s]
train loss:0.0004945337296117929
67%|███████████████████████████████████████████████████▎ | 8000/12000 [30:53<14:49, 4.50it/s]
train loss:9.785385141272378e-05
67%|███████████████████████████████████████████████████▎ | 8001/12000 [30:53<14:53, 4.48it/s]
train loss:0.0012542020762879638
67%|███████████████████████████████████████████████████▎ | 8002/12000 [30:53<14:56, 4.46it/s]
train loss:0.005702528792022752
67%|███████████████████████████████████████████████████▎ | 8003/12000 [30:53<14:55, 4.46it/s]
train loss:0.0029724011711482244
67%|███████████████████████████████████████████████████▎ | 8004/12000 [30:54<14:47, 4.50it/s]
train loss:0.0002021684922177601
67%|███████████████████████████████████████████████████▎ | 8005/12000 [30:54<14:49, 4.49it/s]
train loss:0.011589914408251549
67%|███████████████████████████████████████████████████▎ | 8006/12000 [30:54<14:56, 4.45it/s]
train loss:0.0011479831968637237
67%|███████████████████████████████████████████████████▍ | 8007/12000 [30:54<14:56, 4.46it/s]
train loss:0.00013137180467081696
67%|███████████████████████████████████████████████████▍ | 8008/12000 [30:55<14:55, 4.46it/s]
train loss:0.005443209707774966
67%|███████████████████████████████████████████████████▍ | 8009/12000 [30:55<14:54, 4.46it/s]
train loss:0.0010090674449983027
67%|███████████████████████████████████████████████████▍ | 8010/12000 [30:55<14:56, 4.45it/s]
train loss:0.00026628428545311946
67%|███████████████████████████████████████████████████▍ | 8011/12000 [30:55<15:05, 4.41it/s]
train loss:0.0011084761317939795
67%|███████████████████████████████████████████████████▍ | 8012/12000 [30:55<15:04, 4.41it/s]
train loss:0.003098716414442752
67%|███████████████████████████████████████████████████▍ | 8013/12000 [30:56<14:49, 4.48it/s]
train loss:0.005698162148614781
67%|███████████████████████████████████████████████████▍ | 8014/12000 [30:56<14:53, 4.46it/s]
train loss:0.0039021533401921936
67%|███████████████████████████████████████████████████▍ | 8015/12000 [30:56<14:55, 4.45it/s]
train loss:0.001002320856829214
67%|███████████████████████████████████████████████████▍ | 8016/12000 [30:56<14:55, 4.45it/s]
train loss:0.0018003911223471985
67%|███████████████████████████████████████████████████▍ | 8017/12000 [30:57<14:52, 4.47it/s]
train loss:0.006148449586145459
67%|███████████████████████████████████████████████████▍ | 8018/12000 [30:57<14:49, 4.48it/s]
train loss:0.0034799262471099453
67%|███████████████████████████████████████████████████▍ | 8019/12000 [30:57<14:50, 4.47it/s]
train loss:0.005637259170974399
67%|███████████████████████████████████████████████████▍ | 8020/12000 [30:57<14:50, 4.47it/s]
train loss:0.0050841109530443285
67%|███████████████████████████████████████████████████▍ | 8021/12000 [30:58<15:00, 4.42it/s]
train loss:0.04456870526155763
67%|███████████████████████████████████████████████████▍ | 8022/12000 [30:58<14:47, 4.48it/s]
train loss:0.003956785679476546
67%|███████████████████████████████████████████████████▍ | 8023/12000 [30:58<14:48, 4.48it/s]
train loss:0.014390684078286397
67%|███████████████████████████████████████████████████▍ | 8024/12000 [30:58<14:49, 4.47it/s]
train loss:0.001648400778331487
67%|███████████████████████████████████████████████████▍ | 8025/12000 [30:58<14:49, 4.47it/s]
train loss:0.0011926603085274763
67%|███████████████████████████████████████████████████▌ | 8026/12000 [30:59<14:43, 4.50it/s]
train loss:0.0018655414318447976
67%|███████████████████████████████████████████████████▌ | 8027/12000 [30:59<14:44, 4.49it/s]
train loss:0.0003294548257158561
67%|███████████████████████████████████████████████████▌ | 8028/12000 [30:59<14:45, 4.48it/s]
train loss:0.005403632834257558
67%|███████████████████████████████████████████████████▌ | 8029/12000 [30:59<14:47, 4.47it/s]
train loss:0.0004732887762544154
67%|███████████████████████████████████████████████████▌ | 8030/12000 [31:00<14:50, 4.46it/s]
train loss:0.023769207642424614
67%|███████████████████████████████████████████████████▌ | 8031/12000 [31:00<15:16, 4.33it/s]
train loss:0.002793830910974014
67%|███████████████████████████████████████████████████▌ | 8032/12000 [31:00<16:34, 3.99it/s]
train loss:0.00219919636874443
67%|███████████████████████████████████████████████████▌ | 8033/12000 [31:00<16:32, 4.00it/s]
train loss:0.01118477911574405
67%|███████████████████████████████████████████████████▌ | 8034/12000 [31:01<16:10, 4.09it/s]
train loss:0.0007714061531435866
67%|███████████████████████████████████████████████████▌ | 8035/12000 [31:01<15:47, 4.19it/s]
train loss:0.001372429693804884
67%|███████████████████████████████████████████████████▌ | 8036/12000 [31:01<15:32, 4.25it/s]
train loss:0.0001440993498703307
67%|███████████████████████████████████████████████████▌ | 8037/12000 [31:01<15:22, 4.29it/s]
train loss:0.0013471646178528193
67%|███████████████████████████████████████████████████▌ | 8038/12000 [31:01<15:12, 4.34it/s]
train loss:0.0047622867858612625
67%|███████████████████████████████████████████████████▌ | 8039/12000 [31:02<14:57, 4.41it/s]
train loss:0.005844028309031679
67%|███████████████████████████████████████████████████▌ | 8040/12000 [31:02<14:55, 4.42it/s]
train loss:0.0006837362596595808
67%|███████████████████████████████████████████████████▌ | 8041/12000 [31:02<14:58, 4.41it/s]
train loss:0.0007851910600237315
67%|███████████████████████████████████████████████████▌ | 8042/12000 [31:02<14:56, 4.42it/s]
train loss:0.0003594263899736941
67%|███████████████████████████████████████████████████▌ | 8043/12000 [31:03<14:59, 4.40it/s]
train loss:0.0005804508017528223
67%|███████████████████████████████████████████████████▌ | 8044/12000 [31:03<14:49, 4.45it/s]
train loss:0.0011444728875640027
67%|███████████████████████████████████████████████████▌ | 8045/12000 [31:03<14:50, 4.44it/s]
train loss:0.0005510055846375689
67%|███████████████████████████████████████████████████▋ | 8046/12000 [31:03<14:51, 4.44it/s]
train loss:0.008878496696068014
67%|███████████████████████████████████████████████████▋ | 8047/12000 [31:03<14:51, 4.43it/s]
train loss:0.0005374074112067237
67%|███████████████████████████████████████████████████▋ | 8048/12000 [31:04<14:39, 4.50it/s]
train loss:0.004155451197952824
67%|███████████████████████████████████████████████████▋ | 8049/12000 [31:04<14:41, 4.48it/s]
train loss:0.0021597912418769944
67%|███████████████████████████████████████████████████▋ | 8050/12000 [31:04<14:46, 4.46it/s]
train loss:0.014985978283251083
67%|███████████████████████████████████████████████████▋ | 8051/12000 [31:04<14:44, 4.46it/s]
train loss:0.002348691239629188
67%|███████████████████████████████████████████████████▋ | 8052/12000 [31:05<14:43, 4.47it/s]
train loss:0.004603557144253214
67%|███████████████████████████████████████████████████▋ | 8053/12000 [31:05<14:42, 4.47it/s]
train loss:0.00024300542912263765
67%|███████████████████████████████████████████████████▋ | 8054/12000 [31:05<14:47, 4.45it/s]
train loss:0.026300976110392425
67%|███████████████████████████████████████████████████▋ | 8055/12000 [31:05<14:48, 4.44it/s]
train loss:0.0014650972322798994
67%|███████████████████████████████████████████████████▋ | 8056/12000 [31:05<14:55, 4.41it/s]
train loss:0.0026054119667073177
67%|███████████████████████████████████████████████████▋ | 8057/12000 [31:06<14:53, 4.41it/s]
train loss:0.0007680918923526209
67%|███████████████████████████████████████████████████▋ | 8058/12000 [31:06<14:51, 4.42it/s]
train loss:0.005275852160585443
67%|███████████████████████████████████████████████████▋ | 8059/12000 [31:06<14:52, 4.42it/s]
train loss:0.002178112935467876
67%|███████████████████████████████████████████████████▋ | 8060/12000 [31:06<14:54, 4.41it/s]
train loss:0.010953308240846902
67%|███████████████████████████████████████████████████▋ | 8061/12000 [31:07<14:51, 4.42it/s]
train loss:0.010751048336932228
67%|███████████████████████████████████████████████████▋ | 8062/12000 [31:07<14:53, 4.41it/s]
train loss:0.0016018812170554616
67%|███████████████████████████████████████████████████▋ | 8063/12000 [31:07<14:53, 4.41it/s]
train loss:0.014806292403966534
67%|███████████████████████████████████████████████████▋ | 8064/12000 [31:07<14:50, 4.42it/s]
train loss:0.0006442082010706954
67%|███████████████████████████████████████████████████▊ | 8065/12000 [31:08<14:48, 4.43it/s]
train loss:0.00014779816023137963
67%|███████████████████████████████████████████████████▊ | 8066/12000 [31:08<14:37, 4.48it/s]
train loss:0.0005242763495594562
67%|███████████████████████████████████████████████████▊ | 8067/12000 [31:08<14:39, 4.47it/s]
train loss:0.01172554587122779
67%|███████████████████████████████████████████████████▊ | 8068/12000 [31:08<14:39, 4.47it/s]
train loss:0.0011447025033238705
67%|███████████████████████████████████████████████████▊ | 8069/12000 [31:08<14:41, 4.46it/s]
train loss:0.0010589188824153227
67%|███████████████████████████████████████████████████▊ | 8070/12000 [31:09<14:37, 4.48it/s]
train loss:0.0035221092494127472
67%|███████████████████████████████████████████████████▊ | 8071/12000 [31:09<14:38, 4.47it/s]
train loss:0.0010338048433570209
67%|███████████████████████████████████████████████████▊ | 8072/12000 [31:09<14:38, 4.47it/s]
train loss:0.001400555895533886
67%|███████████████████████████████████████████████████▊ | 8073/12000 [31:09<14:38, 4.47it/s]
train loss:0.0013017062535774823
67%|███████████████████████████████████████████████████▊ | 8074/12000 [31:10<14:43, 4.44it/s]
train loss:0.00344961806180086
67%|███████████████████████████████████████████████████▊ | 8075/12000 [31:10<14:35, 4.49it/s]
train loss:0.007049721467987652
67%|███████████████████████████████████████████████████▊ | 8076/12000 [31:10<14:37, 4.47it/s]
train loss:0.004344602630457511
67%|███████████████████████████████████████████████████▊ | 8077/12000 [31:10<14:38, 4.46it/s]
train loss:0.0023682094066635
67%|███████████████████████████████████████████████████▊ | 8078/12000 [31:10<14:39, 4.46it/s]
train loss:0.0097243647412452
67%|███████████████████████████████████████████████████▊ | 8079/12000 [31:11<14:32, 4.50it/s]
train loss:0.0050674055483148584
67%|███████████████████████████████████████████████████▊ | 8080/12000 [31:11<14:36, 4.47it/s]
train loss:0.00341682337266697
67%|███████████████████████████████████████████████████▊ | 8081/12000 [31:11<14:37, 4.46it/s]
train loss:0.003715027729318621
67%|███████████████████████████████████████████████████▊ | 8082/12000 [31:11<14:38, 4.46it/s]
train loss:0.00031574578726958793
67%|███████████████████████████████████████████████████▊ | 8083/12000 [31:12<14:43, 4.44it/s]
train loss:0.0009991138892516819
67%|███████████████████████████████████████████████████▊ | 8084/12000 [31:12<14:34, 4.48it/s]
train loss:0.0008967919583117731
67%|███████████████████████████████████████████████████▉ | 8085/12000 [31:12<14:36, 4.47it/s]
train loss:0.004610964149265309
67%|███████████████████████████████████████████████████▉ | 8086/12000 [31:12<14:37, 4.46it/s]
train loss:0.026512929083972566
67%|███████████████████████████████████████████████████▉ | 8087/12000 [31:12<14:36, 4.46it/s]
train loss:0.0024523898106422505
67%|███████████████████████████████████████████████████▉ | 8088/12000 [31:13<14:27, 4.51it/s]
train loss:0.002136956040673634
67%|███████████████████████████████████████████████████▉ | 8089/12000 [31:13<14:32, 4.48it/s]
train loss:0.002409813232772144
67%|███████████████████████████████████████████████████▉ | 8090/12000 [31:13<14:37, 4.45it/s]
train loss:0.0022904319076246875
67%|███████████████████████████████████████████████████▉ | 8091/12000 [31:13<14:39, 4.44it/s]
train loss:0.0013876976077032935
67%|███████████████████████████████████████████████████▉ | 8092/12000 [31:14<14:38, 4.45it/s]
train loss:0.0010472586715687465
67%|███████████████████████████████████████████████████▉ | 8093/12000 [31:14<14:31, 4.48it/s]
train loss:0.004512501983704256
67%|███████████████████████████████████████████████████▉ | 8094/12000 [31:14<14:36, 4.45it/s]
train loss:0.000790675359194207
67%|███████████████████████████████████████████████████▉ | 8095/12000 [31:14<14:37, 4.45it/s]
train loss:0.0055625475535091805
67%|███████████████████████████████████████████████████▉ | 8096/12000 [31:14<14:41, 4.43it/s]
train loss:0.008176405376967398
67%|███████████████████████████████████████████████████▉ | 8097/12000 [31:15<14:29, 4.49it/s]
train loss:0.033932543592657266
67%|███████████████████████████████████████████████████▉ | 8098/12000 [31:15<14:33, 4.47it/s]
train loss:0.0013573808553093798
67%|███████████████████████████████████████████████████▉ | 8099/12000 [31:15<14:39, 4.44it/s]
train loss:0.002718548749741976
68%|███████████████████████████████████████████████████▉ | 8100/12000 [31:15<14:40, 4.43it/s]
train loss:0.002016143336606889
68%|███████████████████████████████████████████████████▉ | 8101/12000 [31:16<14:37, 4.44it/s]
train loss:0.0028594530820341747
68%|███████████████████████████████████████████████████▉ | 8102/12000 [31:16<14:40, 4.43it/s]
train loss:0.003039442225677674
68%|███████████████████████████████████████████████████▉ | 8103/12000 [31:16<14:41, 4.42it/s]
train loss:0.002945175647002514
68%|████████████████████████████████████████████████████ | 8104/12000 [31:16<14:41, 4.42it/s]
train loss:0.0006154393675730417
68%|████████████████████████████████████████████████████ | 8105/12000 [31:17<14:44, 4.40it/s]
train loss:0.023066718296807773
68%|████████████████████████████████████████████████████ | 8106/12000 [31:17<14:35, 4.45it/s]
train loss:0.012588797867222248
68%|████████████████████████████████████████████████████ | 8107/12000 [31:17<14:35, 4.44it/s]
train loss:0.005269512634848353
68%|████████████████████████████████████████████████████ | 8108/12000 [31:17<14:41, 4.41it/s]
train loss:0.0012939002599319457
68%|████████████████████████████████████████████████████ | 8109/12000 [31:17<15:11, 4.27it/s]
train loss:0.0019051816709651514
68%|████████████████████████████████████████████████████ | 8110/12000 [31:18<14:52, 4.36it/s]
train loss:0.0021053588196596755
68%|████████████████████████████████████████████████████ | 8111/12000 [31:18<14:46, 4.38it/s]
train loss:0.0006558934009234926
68%|████████████████████████████████████████████████████ | 8112/12000 [31:18<14:43, 4.40it/s]
train loss:0.0004951103531590058
68%|████████████████████████████████████████████████████ | 8113/12000 [31:18<14:40, 4.41it/s]
train loss:0.00019339973944546514
68%|████████████████████████████████████████████████████ | 8114/12000 [31:19<14:44, 4.39it/s]
train loss:0.01358947359703736
68%|████████████████████████████████████████████████████ | 8115/12000 [31:19<14:41, 4.41it/s]
train loss:0.0097023587501498
68%|████████████████████████████████████████████████████ | 8116/12000 [31:19<14:40, 4.41it/s]
train loss:0.0034285080617117323
68%|████████████████████████████████████████████████████ | 8117/12000 [31:19<14:46, 4.38it/s]
train loss:0.012186364037297994
68%|████████████████████████████████████████████████████ | 8118/12000 [31:19<14:42, 4.40it/s]
train loss:0.028362823317231167
68%|████████████████████████████████████████████████████ | 8119/12000 [31:20<14:30, 4.46it/s]
train loss:0.0027064206657137517
68%|████████████████████████████████████████████████████ | 8120/12000 [31:20<14:32, 4.45it/s]
train loss:0.0032847414575755706
68%|████████████████████████████████████████████████████ | 8121/12000 [31:20<14:31, 4.45it/s]
train loss:0.002233311429089082
68%|████████████████████████████████████████████████████ | 8122/12000 [31:20<14:34, 4.43it/s]
train loss:0.0009713687729622077
68%|████████████████████████████████████████████████████ | 8123/12000 [31:21<14:38, 4.41it/s]
train loss:0.005896006865542751
68%|████████████████████████████████████████████████████▏ | 8124/12000 [31:21<14:33, 4.44it/s]
train loss:0.0002941075431242475
68%|████████████████████████████████████████████████████▏ | 8125/12000 [31:21<14:33, 4.43it/s]
train loss:0.0038454037823231323
68%|████████████████████████████████████████████████████▏ | 8126/12000 [31:21<14:34, 4.43it/s]
train loss:0.0017448590387520975
68%|████████████████████████████████████████████████████▏ | 8127/12000 [31:21<14:35, 4.42it/s]
train loss:0.0011434015459555697
68%|████████████████████████████████████████████████████▏ | 8128/12000 [31:22<14:24, 4.48it/s]
train loss:0.0021847176088837135
68%|████████████████████████████████████████████████████▏ | 8129/12000 [31:22<14:28, 4.45it/s]
train loss:0.004547065205730871
68%|████████████████████████████████████████████████████▏ | 8130/12000 [31:22<14:30, 4.45it/s]
train loss:0.00037942376588012553
68%|████████████████████████████████████████████████████▏ | 8131/12000 [31:22<14:31, 4.44it/s]
train loss:0.00241902599432946
68%|████████████████████████████████████████████████████▏ | 8132/12000 [31:23<14:28, 4.45it/s]
train loss:0.0037439057773492363
68%|████████████████████████████████████████████████████▏ | 8133/12000 [31:23<14:29, 4.45it/s]
train loss:0.0016530152985633135
68%|████████████████████████████████████████████████████▏ | 8134/12000 [31:23<14:30, 4.44it/s]
train loss:0.008920556564649636
68%|████████████████████████████████████████████████████▏ | 8135/12000 [31:23<14:32, 4.43it/s]
train loss:0.003606035865036497
68%|████████████████████████████████████████████████████▏ | 8136/12000 [31:24<14:34, 4.42it/s]
train loss:0.006086686485674635
68%|████████████████████████████████████████████████████▏ | 8137/12000 [31:24<14:23, 4.47it/s]
train loss:0.00015281950668282515
68%|████████████████████████████████████████████████████▏ | 8138/12000 [31:24<14:25, 4.46it/s]
train loss:0.0007454860252924424
68%|████████████████████████████████████████████████████▏ | 8139/12000 [31:24<14:26, 4.46it/s]
train loss:0.003637891881051444
68%|████████████████████████████████████████████████████▏ | 8140/12000 [31:24<14:27, 4.45it/s]
train loss:0.0016307029871390033
68%|████████████████████████████████████████████████████▏ | 8141/12000 [31:25<14:23, 4.47it/s]
train loss:0.002757159171503414
68%|████████████████████████████████████████████████████▏ | 8142/12000 [31:25<14:21, 4.48it/s]
train loss:0.00029436603651892456
68%|████████████████████████████████████████████████████▎ | 8143/12000 [31:25<14:23, 4.47it/s]
train loss:0.007751366003297042
68%|████████████████████████████████████████████████████▎ | 8144/12000 [31:25<14:25, 4.46it/s]
train loss:0.00010835849170685508
68%|████████████████████████████████████████████████████▎ | 8145/12000 [31:26<14:29, 4.43it/s]
train loss:0.004936332377940096
68%|████████████████████████████████████████████████████▎ | 8146/12000 [31:26<14:19, 4.48it/s]
train loss:0.0012007351034427325
68%|████████████████████████████████████████████████████▎ | 8147/12000 [31:26<14:34, 4.41it/s]
train loss:0.0032418972643455312
68%|████████████████████████████████████████████████████▎ | 8148/12000 [31:26<14:31, 4.42it/s]
train loss:0.00021509138798016697
68%|████████████████████████████████████████████████████▎ | 8149/12000 [31:26<14:30, 4.43it/s]
train loss:0.000290155768146475
68%|████████████████████████████████████████████████████▎ | 8150/12000 [31:27<14:18, 4.48it/s]
train loss:0.008578205712624102
68%|████████████████████████████████████████████████████▎ | 8151/12000 [31:27<14:20, 4.47it/s]
train loss:0.00038265459811285505
68%|████████████████████████████████████████████████████▎ | 8152/12000 [31:27<14:26, 4.44it/s]
train loss:0.005415107391560124
68%|████████████████████████████████████████████████████▎ | 8153/12000 [31:27<14:26, 4.44it/s]
train loss:0.0014735091390515541
68%|████████████████████████████████████████████████████▎ | 8154/12000 [31:28<14:27, 4.44it/s]
train loss:0.027727180945202753
68%|████████████████████████████████████████████████████▎ | 8155/12000 [31:28<14:17, 4.49it/s]
train loss:0.0005835748567303489
68%|████████████████████████████████████████████████████▎ | 8156/12000 [31:28<14:19, 4.47it/s]
train loss:0.0001076955919605873
68%|████████████████████████████████████████████████████▎ | 8157/12000 [31:28<14:22, 4.46it/s]
train loss:0.00032443246987654017
68%|████████████████████████████████████████████████████▎ | 8158/12000 [31:28<14:25, 4.44it/s]
train loss:0.0026431706938652684
68%|████████████████████████████████████████████████████▎ | 8159/12000 [31:29<14:15, 4.49it/s]
train loss:0.004633477391915661
68%|████████████████████████████████████████████████████▎ | 8160/12000 [31:29<14:18, 4.48it/s]
train loss:0.002451808678950802
68%|████████████████████████████████████████████████████▎ | 8161/12000 [31:29<14:20, 4.46it/s]
train loss:0.0026601173919992157
68%|████████████████████████████████████████████████████▎ | 8162/12000 [31:29<14:22, 4.45it/s]
train loss:0.009288289421461789
68%|████████████████████████████████████████████████████▍ | 8163/12000 [31:30<14:19, 4.47it/s]
train loss:0.02810992847859544
68%|████████████████████████████████████████████████████▍ | 8164/12000 [31:30<14:09, 4.51it/s]
train loss:0.005034189660705424
68%|████████████████████████████████████████████████████▍ | 8165/12000 [31:30<14:15, 4.48it/s]
train loss:0.004881034807849547
68%|████████████████████████████████████████████████████▍ | 8166/12000 [31:30<14:17, 4.47it/s]
train loss:0.000400158751777027
68%|████████████████████████████████████████████████████▍ | 8167/12000 [31:30<14:20, 4.46it/s]
train loss:0.00396079655167025
68%|████████████████████████████████████████████████████▍ | 8168/12000 [31:31<14:13, 4.49it/s]
train loss:0.0032271697786396534
68%|████████████████████████████████████████████████████▍ | 8169/12000 [31:31<14:16, 4.47it/s]
train loss:0.007796006535661292
68%|████████████████████████████████████████████████████▍ | 8170/12000 [31:31<14:17, 4.47it/s]
train loss:0.01325019134654049
68%|████████████████████████████████████████████████████▍ | 8171/12000 [31:31<14:17, 4.46it/s]
train loss:0.000609594348467916
68%|████████████████████████████████████████████████████▍ | 8172/12000 [31:32<14:16, 4.47it/s]
train loss:0.03685618676561606
68%|████████████████████████████████████████████████████▍ | 8173/12000 [31:32<14:06, 4.52it/s]
train loss:0.029018515806892728
68%|████████████████████████████████████████████████████▍ | 8174/12000 [31:32<14:13, 4.48it/s]
train loss:0.01252011370993531
68%|████████████████████████████████████████████████████▍ | 8175/12000 [31:32<14:17, 4.46it/s]
train loss:0.004102528615746603
68%|████████████████████████████████████████████████████▍ | 8176/12000 [31:32<14:19, 4.45it/s]
train loss:0.0012995893346977741
68%|████████████████████████████████████████████████████▍ | 8177/12000 [31:33<14:30, 4.39it/s]
train loss:0.002885001856331531
68%|████████████████████████████████████████████████████▍ | 8178/12000 [31:33<14:28, 4.40it/s]
train loss:0.007026033228286905
68%|████████████████████████████████████████████████████▍ | 8179/12000 [31:33<14:15, 4.47it/s]
train loss:0.0013311726271524446
68%|████████████████████████████████████████████████████▍ | 8180/12000 [31:33<14:16, 4.46it/s]
train loss:0.0014684277271940858
68%|████████████████████████████████████████████████████▍ | 8181/12000 [31:34<14:11, 4.48it/s]
train loss:0.001280278927863014
68%|████████████████████████████████████████████████████▌ | 8182/12000 [31:34<14:09, 4.50it/s]
train loss:7.827372739796075e-05
68%|████████████████████████████████████████████████████▌ | 8183/12000 [31:34<14:09, 4.49it/s]
train loss:0.0061358711800540856
68%|████████████████████████████████████████████████████▌ | 8184/12000 [31:34<14:12, 4.48it/s]
train loss:0.03111765604727565
68%|████████████████████████████████████████████████████▌ | 8185/12000 [31:34<14:12, 4.47it/s]
train loss:0.0008021592436540982
68%|████████████████████████████████████████████████████▌ | 8186/12000 [31:35<14:10, 4.48it/s]
train loss:0.010630891887324825
68%|████████████████████████████████████████████████████▌ | 8187/12000 [31:35<14:14, 4.46it/s]
train loss:0.002438545012826839
68%|████████████████████████████████████████████████████▌ | 8188/12000 [31:35<14:28, 4.39it/s]
train loss:0.0016049361230316406
68%|████████████████████████████████████████████████████▌ | 8189/12000 [31:35<14:26, 4.40it/s]
train loss:0.0025736235354531407
68%|████████████████████████████████████████████████████▌ | 8190/12000 [31:36<14:30, 4.38it/s]
train loss:0.006949573516928068
68%|████████████████████████████████████████████████████▌ | 8191/12000 [31:36<14:33, 4.36it/s]
train loss:0.0008754199096818384
68%|████████████████████████████████████████████████████▌ | 8192/12000 [31:36<14:27, 4.39it/s]
train loss:0.0025526814370845415
68%|████████████████████████████████████████████████████▌ | 8193/12000 [31:36<14:29, 4.38it/s]
train loss:0.005086763783308996
68%|████████████████████████████████████████████████████▌ | 8194/12000 [31:37<14:28, 4.38it/s]
train loss:0.0054872208541300125
68%|████████████████████████████████████████████████████▌ | 8195/12000 [31:37<14:15, 4.45it/s]
train loss:0.0045749698577242535
68%|████████████████████████████████████████████████████▌ | 8196/12000 [31:37<15:04, 4.20it/s]
train loss:0.0034548436308212273
68%|████████████████████████████████████████████████████▌ | 8197/12000 [31:37<15:28, 4.09it/s]
train loss:0.000297271841739029
68%|████████████████████████████████████████████████████▌ | 8198/12000 [31:38<15:28, 4.10it/s]
train loss:0.0003377073480025232
68%|████████████████████████████████████████████████████▌ | 8199/12000 [31:38<14:58, 4.23it/s]
train loss:0.0006950764676665421
68%|████████████████████████████████████████████████████▌ | 8200/12000 [31:38<14:47, 4.28it/s]
train loss:0.0004068980405629502
68%|████████████████████████████████████████████████████▌ | 8201/12000 [31:38<14:38, 4.32it/s]
train loss:0.002476171769050539
68%|████████████████████████████████████████████████████▋ | 8202/12000 [31:38<14:41, 4.31it/s]
train loss:3.518775612847285e-05
68%|████████████████████████████████████████████████████▋ | 8203/12000 [31:39<14:28, 4.37it/s]
train loss:0.002578917085438817
68%|████████████████████████████████████████████████████▋ | 8204/12000 [31:39<14:24, 4.39it/s]
train loss:0.010207225715259192
68%|████████████████████████████████████████████████████▋ | 8205/12000 [31:39<14:21, 4.41it/s]
train loss:0.001085187148199481
68%|████████████████████████████████████████████████████▋ | 8206/12000 [31:39<14:24, 4.39it/s]
train loss:0.005435308180245942
68%|████████████████████████████████████████████████████▋ | 8207/12000 [31:40<14:21, 4.41it/s]
train loss:0.008591993879305346
68%|████████████████████████████████████████████████████▋ | 8208/12000 [31:40<14:06, 4.48it/s]
train loss:0.002592298840326972
68%|████████████████████████████████████████████████████▋ | 8209/12000 [31:40<14:05, 4.48it/s]
train loss:0.00039652635336296505
68%|████████████████████████████████████████████████████▋ | 8210/12000 [31:40<14:07, 4.47it/s]
train loss:0.0035177799312498107
68%|████████████████████████████████████████████████████▋ | 8211/12000 [31:40<14:10, 4.46it/s]
train loss:0.003031484793674603
68%|████████████████████████████████████████████████████▋ | 8212/12000 [31:41<14:06, 4.48it/s]
train loss:0.0003119546391928844
68%|████████████████████████████████████████████████████▋ | 8213/12000 [31:41<14:05, 4.48it/s]
train loss:0.013667161694199343
68%|████████████████████████████████████████████████████▋ | 8214/12000 [31:41<14:06, 4.47it/s]
train loss:0.008352150575479063
68%|████████████████████████████████████████████████████▋ | 8215/12000 [31:41<14:06, 4.47it/s]
train loss:0.127635963757116
68%|████████████████████████████████████████████████████▋ | 8216/12000 [31:42<14:04, 4.48it/s]
train loss:0.003918094596026569
68%|████████████████████████████████████████████████████▋ | 8217/12000 [31:42<13:55, 4.53it/s]
train loss:0.0016324800973680697
68%|████████████████████████████████████████████████████▋ | 8218/12000 [31:42<13:59, 4.50it/s]
train loss:0.005763836680787452
68%|████████████████████████████████████████████████████▋ | 8219/12000 [31:42<14:01, 4.49it/s]
train loss:0.004783883726951391
68%|████████████████████████████████████████████████████▋ | 8220/12000 [31:42<14:05, 4.47it/s]
train loss:0.006433984627692017
69%|████████████████████████████████████████████████████▊ | 8221/12000 [31:43<13:55, 4.52it/s]
train loss:0.0005807261199140633
69%|████████████████████████████████████████████████████▊ | 8222/12000 [31:43<13:57, 4.51it/s]
train loss:0.00011051020465083054
69%|████████████████████████████████████████████████████▊ | 8223/12000 [31:43<14:02, 4.48it/s]
train loss:0.002340494790407086
69%|████████████████████████████████████████████████████▊ | 8224/12000 [31:43<14:05, 4.47it/s]
train loss:0.001323854860532467
69%|████████████████████████████████████████████████████▊ | 8225/12000 [31:44<14:03, 4.48it/s]
train loss:0.010601826119205014
69%|████████████████████████████████████████████████████▊ | 8226/12000 [31:44<13:53, 4.53it/s]
train loss:0.0009801817076185093
69%|████████████████████████████████████████████████████▊ | 8227/12000 [31:44<13:55, 4.51it/s]
train loss:0.0016675083068287057
69%|████████████████████████████████████████████████████▊ | 8228/12000 [31:44<13:58, 4.50it/s]
train loss:0.00399320429314286
69%|████████████████████████████████████████████████████▊ | 8229/12000 [31:44<14:02, 4.48it/s]
train loss:0.0006289850860797752
69%|████████████████████████████████████████████████████▊ | 8230/12000 [31:45<13:57, 4.50it/s]
train loss:0.00025182996825921566
69%|████████████████████████████████████████████████████▊ | 8231/12000 [31:45<14:02, 4.47it/s]
train loss:0.004733638328339068
69%|████████████████████████████████████████████████████▊ | 8232/12000 [31:45<14:05, 4.46it/s]
train loss:0.00020344720956607485
69%|████████████████████████████████████████████████████▊ | 8233/12000 [31:45<14:04, 4.46it/s]
train loss:0.0027551689054970256
69%|████████████████████████████████████████████████████▊ | 8234/12000 [31:46<14:09, 4.43it/s]
train loss:0.01740954893600974
69%|████████████████████████████████████████████████████▊ | 8235/12000 [31:46<13:57, 4.49it/s]
train loss:0.00298475452424675
69%|████████████████████████████████████████████████████▊ | 8236/12000 [31:46<14:01, 4.47it/s]
train loss:0.0032066271163514798
69%|████████████████████████████████████████████████████▊ | 8237/12000 [31:46<14:02, 4.46it/s]
train loss:0.016776119967853373
69%|████████████████████████████████████████████████████▊ | 8238/12000 [31:46<14:03, 4.46it/s]
train loss:0.003432271205061687
69%|████████████████████████████████████████████████████▊ | 8239/12000 [31:47<13:53, 4.51it/s]
train loss:0.002368505373548199
69%|████████████████████████████████████████████████████▊ | 8240/12000 [31:47<13:58, 4.49it/s]
train loss:0.007984239155401753
69%|████████████████████████████████████████████████████▉ | 8241/12000 [31:47<14:11, 4.41it/s]
train loss:0.01602627836246604
69%|████████████████████████████████████████████████████▉ | 8242/12000 [31:47<14:07, 4.43it/s]
train loss:0.008256675923066998
69%|████████████████████████████████████████████████████▉ | 8243/12000 [31:48<14:04, 4.45it/s]
train loss:0.0008477817881332731
69%|████████████████████████████████████████████████████▉ | 8244/12000 [31:48<14:06, 4.44it/s]
train loss:0.0014731247632494785
69%|████████████████████████████████████████████████████▉ | 8245/12000 [31:48<14:08, 4.43it/s]
train loss:0.0025056894554591038
69%|████████████████████████████████████████████████████▉ | 8246/12000 [31:48<15:03, 4.16it/s]
train loss:0.0017915737493908158
69%|████████████████████████████████████████████████████▉ | 8247/12000 [31:49<15:03, 4.15it/s]
train loss:0.0057661013951765235
69%|████████████████████████████████████████████████████▉ | 8248/12000 [31:49<14:52, 4.20it/s]
train loss:0.002588002854098008
69%|████████████████████████████████████████████████████▉ | 8249/12000 [31:49<14:35, 4.28it/s]
train loss:0.003505911455206634
69%|████████████████████████████████████████████████████▉ | 8250/12000 [31:49<14:24, 4.34it/s]
train loss:0.007927722500387377
69%|████████████████████████████████████████████████████▉ | 8251/12000 [31:49<14:17, 4.37it/s]
train loss:0.002062510999091865
69%|████████████████████████████████████████████████████▉ | 8252/12000 [31:50<14:06, 4.43it/s]
train loss:0.000799736470260172
69%|████████████████████████████████████████████████████▉ | 8253/12000 [31:50<14:16, 4.38it/s]
train loss:0.018854536323782346
69%|████████████████████████████████████████████████████▉ | 8254/12000 [31:50<14:12, 4.40it/s]
train loss:0.0025231541038602113
69%|████████████████████████████████████████████████████▉ | 8255/12000 [31:50<14:08, 4.42it/s]
train loss:0.0032536844839216117
69%|████████████████████████████████████████████████████▉ | 8256/12000 [31:51<14:05, 4.43it/s]
train loss:0.0014727943944137312
69%|████████████████████████████████████████████████████▉ | 8257/12000 [31:51<14:00, 4.45it/s]
train loss:0.001792524938507806
69%|████████████████████████████████████████████████████▉ | 8258/12000 [31:51<13:59, 4.46it/s]
train loss:0.004675275361971539
69%|████████████████████████████████████████████████████▉ | 8259/12000 [31:51<14:01, 4.45it/s]
train loss:0.0003516884124559336
69%|█████████████████████████████████████████████████████ | 8260/12000 [31:51<14:01, 4.45it/s]
train loss:0.0009508275589286684
69%|█████████████████████████████████████████████████████ | 8261/12000 [31:52<14:05, 4.42it/s]
train loss:0.013297164918288916
69%|█████████████████████████████████████████████████████ | 8262/12000 [31:52<14:03, 4.43it/s]
train loss:0.0012317960860138508
69%|█████████████████████████████████████████████████████ | 8263/12000 [31:52<14:04, 4.42it/s]
train loss:0.0006541605399206063
69%|█████████████████████████████████████████████████████ | 8264/12000 [31:52<14:03, 4.43it/s]
train loss:0.01066802388527726
69%|█████████████████████████████████████████████████████ | 8265/12000 [31:53<13:56, 4.46it/s]
train loss:0.003126587969807122
69%|█████████████████████████████████████████████████████ | 8266/12000 [31:53<13:54, 4.48it/s]
train loss:0.0008882613917721667
69%|█████████████████████████████████████████████████████ | 8267/12000 [31:53<13:54, 4.47it/s]
train loss:0.006447297943227934
69%|█████████████████████████████████████████████████████ | 8268/12000 [31:53<13:55, 4.47it/s]
train loss:0.037440862547156
69%|█████████████████████████████████████████████████████ | 8269/12000 [31:54<13:56, 4.46it/s]
train loss:0.000306249254603384
69%|█████████████████████████████████████████████████████ | 8270/12000 [31:54<13:48, 4.50it/s]
train loss:0.006609792011563626
69%|█████████████████████████████████████████████████████ | 8271/12000 [31:54<13:50, 4.49it/s]
train loss:0.0035644413963058217
69%|█████████████████████████████████████████████████████ | 8272/12000 [31:54<13:52, 4.48it/s]
train loss:0.0010358974430025557
69%|█████████████████████████████████████████████████████ | 8273/12000 [31:54<13:54, 4.47it/s]
train loss:0.0002330125592855587
69%|█████████████████████████████████████████████████████ | 8274/12000 [31:55<13:49, 4.49it/s]
train loss:0.002611641647134752
69%|█████████████████████████████████████████████████████ | 8275/12000 [31:55<13:49, 4.49it/s]
train loss:0.0004767500947951896
69%|█████████████████████████████████████████████████████ | 8276/12000 [31:55<13:51, 4.48it/s]
train loss:0.0013338641676335868
69%|█████████████████████████████████████████████████████ | 8277/12000 [31:55<13:54, 4.46it/s]
train loss:0.00025323384205695363
69%|█████████████████████████████████████████████████████ | 8278/12000 [31:56<13:55, 4.46it/s]
train loss:0.00650266119774625
69%|█████████████████████████████████████████████████████ | 8279/12000 [31:56<13:45, 4.51it/s]
train loss:0.00245760370821412
69%|█████████████████████████████████████████████████████▏ | 8280/12000 [31:56<13:48, 4.49it/s]
train loss:0.001070639119641777
69%|█████████████████████████████████████████████████████▏ | 8281/12000 [31:56<13:51, 4.47it/s]
train loss:0.020268395726536007
69%|█████████████████████████████████████████████████████▏ | 8282/12000 [31:56<13:51, 4.47it/s]
train loss:0.016854748446368657
69%|█████████████████████████████████████████████████████▏ | 8283/12000 [31:57<13:49, 4.48it/s]
train loss:0.00403310733055003
69%|█████████████████████████████████████████████████████▏ | 8284/12000 [31:57<13:50, 4.48it/s]
train loss:0.003539794140035331
69%|█████████████████████████████████████████████████████▏ | 8285/12000 [31:57<13:51, 4.47it/s]
train loss:0.007068972560850265
69%|█████████████████████████████████████████████████████▏ | 8286/12000 [31:57<13:52, 4.46it/s]
train loss:0.003959225167744629
69%|█████████████████████████████████████████████████████▏ | 8287/12000 [31:58<13:54, 4.45it/s]
train loss:0.00847135510119914
69%|█████████████████████████████████████████████████████▏ | 8288/12000 [31:58<13:46, 4.49it/s]
train loss:0.007524113362199391
69%|█████████████████████████████████████████████████████▏ | 8289/12000 [31:58<13:49, 4.48it/s]
train loss:0.002083420776505504
69%|█████████████████████████████████████████████████████▏ | 8290/12000 [31:58<13:56, 4.44it/s]
train loss:0.02994986146272222
69%|█████████████████████████████████████████████████████▏ | 8291/12000 [31:58<13:54, 4.44it/s]
train loss:0.0005901799909504136
69%|█████████████████████████████████████████████████████▏ | 8292/12000 [31:59<13:44, 4.50it/s]
train loss:0.012454008863185888
69%|█████████████████████████████████████████████████████▏ | 8293/12000 [31:59<13:47, 4.48it/s]
train loss:0.001001893263251629
69%|█████████████████████████████████████████████████████▏ | 8294/12000 [31:59<13:47, 4.48it/s]
train loss:0.0013942024862605845
69%|█████████████████████████████████████████████████████▏ | 8295/12000 [31:59<13:49, 4.47it/s]
train loss:0.0009571005290429069
69%|█████████████████████████████████████████████████████▏ | 8296/12000 [32:00<14:01, 4.40it/s]
train loss:0.005571825832551071
69%|█████████████████████████████████████████████████████▏ | 8297/12000 [32:00<13:50, 4.46it/s]
train loss:0.0015133596664708277
69%|█████████████████████████████████████████████████████▏ | 8298/12000 [32:00<13:48, 4.47it/s]
train loss:0.009479686228554985
69%|█████████████████████████████████████████████████████▎ | 8299/12000 [32:00<13:49, 4.46it/s]
train loss:0.003551576508745648
69%|█████████████████████████████████████████████████████▎ | 8300/12000 [32:00<13:51, 4.45it/s]
train loss:0.0013529733635550697
69%|█████████████████████████████████████████████████████▎ | 8301/12000 [32:01<13:42, 4.50it/s]
train loss:0.004227668907770123
69%|█████████████████████████████████████████████████████▎ | 8302/12000 [32:01<13:44, 4.49it/s]
train loss:0.004367013125251885
69%|█████████████████████████████████████████████████████▎ | 8303/12000 [32:01<13:45, 4.48it/s]
train loss:0.016508347391408114
69%|█████████████████████████████████████████████████████▎ | 8304/12000 [32:01<13:47, 4.47it/s]
train loss:0.008951004865238895
69%|█████████████████████████████████████████████████████▎ | 8305/12000 [32:02<13:49, 4.45it/s]
train loss:0.0005147209240473301
69%|█████████████████████████████████████████████████████▎ | 8306/12000 [32:02<13:38, 4.51it/s]
train loss:0.0020524969323145845
69%|█████████████████████████████████████████████████████▎ | 8307/12000 [32:02<13:40, 4.50it/s]
train loss:0.0023992858346104425
69%|█████████████████████████████████████████████████████▎ | 8308/12000 [32:02<13:43, 4.49it/s]
train loss:0.02379364511296993
69%|█████████████████████████████████████████████████████▎ | 8309/12000 [32:02<13:44, 4.48it/s]
train loss:0.001976040629391225
69%|█████████████████████████████████████████████████████▎ | 8310/12000 [32:03<13:37, 4.52it/s]
train loss:0.0034027994001496046
69%|█████████████████████████████████████████████████████▎ | 8311/12000 [32:03<13:38, 4.51it/s]
train loss:0.003804372371706154
69%|█████████████████████████████████████████████████████▎ | 8312/12000 [32:03<13:41, 4.49it/s]
train loss:0.002006039291795722
69%|█████████████████████████████████████████████████████▎ | 8313/12000 [32:03<13:42, 4.48it/s]
train loss:0.0014780147753904213
69%|█████████████████████████████████████████████████████▎ | 8314/12000 [32:04<13:43, 4.48it/s]
train loss:0.003111750153586187
69%|█████████████████████████████████████████████████████▎ | 8315/12000 [32:04<13:34, 4.53it/s]
train loss:0.0024273828446512175
69%|█████████████████████████████████████████████████████▎ | 8316/12000 [32:04<13:39, 4.49it/s]
train loss:0.020134930104708952
69%|█████████████████████████████████████████████████████▎ | 8317/12000 [32:04<13:44, 4.47it/s]
train loss:0.004922888917310706
69%|█████████████████████████████████████████████████████▎ | 8318/12000 [32:04<13:49, 4.44it/s]
train loss:0.0017762338102925183
69%|█████████████████████████████████████████████████████▍ | 8319/12000 [32:05<13:42, 4.47it/s]
train loss:0.006026694961629314
69%|█████████████████████████████████████████████████████▍ | 8320/12000 [32:05<13:40, 4.48it/s]
train loss:0.001624295195144563
69%|█████████████████████████████████████████████████████▍ | 8321/12000 [32:05<13:41, 4.48it/s]
train loss:0.0021240770812582664
69%|█████████████████████████████████████████████████████▍ | 8322/12000 [32:05<13:42, 4.47it/s]
train loss:0.0012143848580758942
69%|█████████████████████████████████████████████████████▍ | 8323/12000 [32:06<13:39, 4.49it/s]
train loss:0.034462445406401976
69%|█████████████████████████████████████████████████████▍ | 8324/12000 [32:06<13:41, 4.47it/s]
train loss:0.00433065305841824
69%|█████████████████████████████████████████████████████▍ | 8325/12000 [32:06<13:41, 4.47it/s]
train loss:0.0024792759083913595
69%|█████████████████████████████████████████████████████▍ | 8326/12000 [32:06<13:43, 4.46it/s]
train loss:0.0036165333349340526
69%|█████████████████████████████████████████████████████▍ | 8327/12000 [32:06<13:45, 4.45it/s]
train loss:0.0013377450118905276
69%|█████████████████████████████████████████████████████▍ | 8328/12000 [32:07<13:34, 4.51it/s]
train loss:0.010881860212388106
69%|█████████████████████████████████████████████████████▍ | 8329/12000 [32:07<13:36, 4.50it/s]
train loss:0.0009929094241400537
69%|█████████████████████████████████████████████████████▍ | 8330/12000 [32:07<13:37, 4.49it/s]
train loss:0.0018743203938678629
69%|█████████████████████████████████████████████████████▍ | 8331/12000 [32:07<13:39, 4.48it/s]
train loss:0.00022820093026726103
69%|█████████████████████████████████████████████████████▍ | 8332/12000 [32:08<13:38, 4.48it/s]
train loss:0.00543217079582324
69%|█████████████████████████████████████████████████████▍ | 8333/12000 [32:08<13:34, 4.50it/s]
train loss:0.0002857124242828702
69%|█████████████████████████████████████████████████████▍ | 8334/12000 [32:08<13:36, 4.49it/s]
train loss:0.0070034465091556855
69%|█████████████████████████████████████████████████████▍ | 8335/12000 [32:08<13:38, 4.48it/s]
train loss:0.004081991779141313
69%|█████████████████████████████████████████████████████▍ | 8336/12000 [32:08<13:40, 4.47it/s]
train loss:0.010669409278644383
69%|█████████████████████████████████████████████████████▍ | 8337/12000 [32:09<13:32, 4.51it/s]
train loss:0.0009093988072307047
69%|█████████████████████████████████████████████████████▌ | 8338/12000 [32:09<13:35, 4.49it/s]
train loss:0.0015340957792262112
69%|█████████████████████████████████████████████████████▌ | 8339/12000 [32:09<13:35, 4.49it/s]
train loss:0.00047125812022422815
70%|█████████████████████████████████████████████████████▌ | 8340/12000 [32:09<13:38, 4.47it/s]
train loss:0.0010872878086060735
70%|█████████████████████████████████████████████████████▌ | 8341/12000 [32:10<13:39, 4.46it/s]
train loss:0.0041735080307275805
70%|█████████████████████████████████████████████████████▌ | 8342/12000 [32:10<13:37, 4.48it/s]
train loss:0.005290339632642364
70%|█████████████████████████████████████████████████████▌ | 8343/12000 [32:10<13:37, 4.47it/s]
train loss:0.0004541349565917311
70%|█████████████████████████████████████████████████████▌ | 8344/12000 [32:10<13:37, 4.47it/s]
train loss:0.004390456115800407
70%|█████████████████████████████████████████████████████▌ | 8345/12000 [32:10<13:39, 4.46it/s]
train loss:0.03000802644112437
70%|█████████████████████████████████████████████████████▌ | 8346/12000 [32:11<13:32, 4.50it/s]
train loss:0.0035723809046595396
70%|█████████████████████████████████████████████████████▌ | 8347/12000 [32:11<13:44, 4.43it/s]
train loss:0.0025591118050904238
70%|█████████████████████████████████████████████████████▌ | 8348/12000 [32:11<13:49, 4.40it/s]
train loss:0.0004493141761296629
70%|█████████████████████████████████████████████████████▌ | 8349/12000 [32:11<13:45, 4.42it/s]
train loss:0.003845872357970192
70%|█████████████████████████████████████████████████████▌ | 8350/12000 [32:12<13:43, 4.43it/s]
train loss:0.0009656065188157064
70%|█████████████████████████████████████████████████████▌ | 8351/12000 [32:12<13:38, 4.46it/s]
train loss:0.0005662063375854657
70%|█████████████████████████████████████████████████████▌ | 8352/12000 [32:12<13:38, 4.46it/s]
train loss:0.004224802613574964
70%|█████████████████████████████████████████████████████▌ | 8353/12000 [32:12<13:37, 4.46it/s]
train loss:0.0011654121822030842
70%|█████████████████████████████████████████████████████▌ | 8354/12000 [32:13<13:37, 4.46it/s]
train loss:0.007561401285043805
70%|█████████████████████████████████████████████████████▌ | 8355/12000 [32:13<13:29, 4.50it/s]
train loss:0.007707527549652426
70%|█████████████████████████████████████████████████████▌ | 8356/12000 [32:13<13:32, 4.48it/s]
train loss:0.005326178530008997
70%|█████████████████████████████████████████████████████▌ | 8357/12000 [32:13<13:34, 4.47it/s]
train loss:0.0013521055025328898
70%|█████████████████████████████████████████████████████▋ | 8358/12000 [32:13<13:42, 4.43it/s]
train loss:0.01509406176463517
70%|█████████████████████████████████████████████████████▋ | 8359/12000 [32:14<13:33, 4.47it/s]
train loss:0.004128159475122895
70%|█████████████████████████████████████████████████████▋ | 8360/12000 [32:14<13:31, 4.48it/s]
train loss:0.0037487431510520204
70%|█████████████████████████████████████████████████████▋ | 8361/12000 [32:14<13:32, 4.48it/s]
train loss:0.010400770019886136
70%|█████████████████████████████████████████████████████▋ | 8362/12000 [32:14<13:46, 4.40it/s]
train loss:0.006475446874520636
70%|█████████████████████████████████████████████████████▋ | 8363/12000 [32:15<13:52, 4.37it/s]
train loss:0.0033925549312082866
70%|█████████████████████████████████████████████████████▋ | 8364/12000 [32:15<14:03, 4.31it/s]
train loss:0.0003863295403797833
70%|█████████████████████████████████████████████████████▋ | 8365/12000 [32:15<14:21, 4.22it/s]
train loss:0.002338508214574377
70%|█████████████████████████████████████████████████████▋ | 8366/12000 [32:15<14:11, 4.27it/s]
train loss:0.019539600294130686
70%|█████████████████████████████████████████████████████▋ | 8367/12000 [32:15<14:00, 4.32it/s]
train loss:0.0005795523093230589
70%|█████████████████████████████████████████████████████▋ | 8368/12000 [32:16<13:48, 4.38it/s]
train loss:0.003471953122036261
70%|█████████████████████████████████████████████████████▋ | 8369/12000 [32:16<13:44, 4.41it/s]
train loss:0.00539645566982342
70%|█████████████████████████████████████████████████████▋ | 8370/12000 [32:16<14:06, 4.29it/s]
train loss:0.008827528737942287
70%|█████████████████████████████████████████████████████▋ | 8371/12000 [32:16<14:17, 4.23it/s]
train loss:0.011632294611873435
70%|█████████████████████████████████████████████████████▋ | 8372/12000 [32:17<14:03, 4.30it/s]
train loss:0.002461200865304841
70%|█████████████████████████████████████████████████████▋ | 8373/12000 [32:17<13:59, 4.32it/s]
train loss:0.004798977599375244
70%|█████████████████████████████████████████████████████▋ | 8374/12000 [32:17<13:54, 4.34it/s]
train loss:0.009453766993735523
70%|█████████████████████████████████████████████████████▋ | 8375/12000 [32:17<13:52, 4.36it/s]
train loss:0.0005806985982223819
70%|█████████████████████████████████████████████████████▋ | 8376/12000 [32:18<13:54, 4.34it/s]
train loss:0.002556831112745087
70%|█████████████████████████████████████████████████████▊ | 8377/12000 [32:18<13:38, 4.42it/s]
train loss:0.0002828504607074771
70%|█████████████████████████████████████████████████████▊ | 8378/12000 [32:18<13:39, 4.42it/s]
train loss:0.004835373393589981
70%|█████████████████████████████████████████████████████▊ | 8379/12000 [32:18<13:52, 4.35it/s]
train loss:0.003516856876928573
70%|█████████████████████████████████████████████████████▊ | 8380/12000 [32:18<13:52, 4.35it/s]
train loss:0.0010641000476766212
70%|█████████████████████████████████████████████████████▊ | 8381/12000 [32:19<13:45, 4.38it/s]
train loss:0.012936025777811944
70%|█████████████████████████████████████████████████████▊ | 8382/12000 [32:19<13:42, 4.40it/s]
train loss:0.002437544379927598
70%|█████████████████████████████████████████████████████▊ | 8383/12000 [32:19<13:42, 4.40it/s]
train loss:0.0008625431264762613
70%|█████████████████████████████████████████████████████▊ | 8384/12000 [32:19<13:42, 4.40it/s]
train loss:0.005523511146833621
70%|█████████████████████████████████████████████████████▊ | 8385/12000 [32:20<13:42, 4.39it/s]
train loss:0.00047559973531047017
70%|█████████████████████████████████████████████████████▊ | 8386/12000 [32:20<13:46, 4.37it/s]
train loss:0.0008030353415537455
70%|█████████████████████████████████████████████████████▊ | 8387/12000 [32:20<13:43, 4.39it/s]
train loss:0.009571323431664457
70%|█████████████████████████████████████████████████████▊ | 8388/12000 [32:20<13:42, 4.39it/s]
train loss:0.0011185226212042155
70%|█████████████████████████████████████████████████████▊ | 8389/12000 [32:21<13:42, 4.39it/s]
train loss:0.001974346049299404
70%|█████████████████████████████████████████████████████▊ | 8390/12000 [32:21<13:32, 4.44it/s]
train loss:0.005435775281503206
70%|█████████████████████████████████████████████████████▊ | 8391/12000 [32:21<13:27, 4.47it/s]
train loss:0.008168208541423552
70%|█████████████████████████████████████████████████████▊ | 8392/12000 [32:21<13:30, 4.45it/s]
train loss:0.01451223733556246
70%|█████████████████████████████████████████████████████▊ | 8393/12000 [32:21<13:32, 4.44it/s]
train loss:0.00024287547109947533
70%|█████████████████████████████████████████████████████▊ | 8394/12000 [32:22<13:26, 4.47it/s]
train loss:0.0005882025963777615
70%|█████████████████████████████████████████████████████▊ | 8395/12000 [32:22<13:23, 4.49it/s]
train loss:0.007263282126220179
70%|█████████████████████████████████████████████████████▊ | 8396/12000 [32:22<13:25, 4.47it/s]
train loss:0.0016980127638291892
70%|█████████████████████████████████████████████████████▉ | 8397/12000 [32:22<13:56, 4.31it/s]
train loss:0.000747701325880405
70%|█████████████████████████████████████████████████████▉ | 8398/12000 [32:23<13:49, 4.34it/s]
train loss:0.0017335774328948131
70%|█████████████████████████████████████████████████████▉ | 8399/12000 [32:23<13:37, 4.41it/s]
train loss:0.006780233401441483
70%|█████████████████████████████████████████████████████▉ | 8400/12000 [32:23<13:37, 4.41it/s]
train loss:0.0011931800980957102 train loss:0.0034945009048616654
70%|█████████████████████████████████████████████████████▉ | 8401/12000 [32:25<42:15, 1.42it/s]
=== epoch:15, train acc:0.995, test acc:0.986 ===
70%|█████████████████████████████████████████████████████▉ | 8402/12000 [32:25<33:35, 1.78it/s]
train loss:0.022137823249268333
70%|█████████████████████████████████████████████████████▉ | 8403/12000 [32:25<27:35, 2.17it/s]
train loss:0.0022389080183045215
70%|█████████████████████████████████████████████████████▉ | 8404/12000 [32:25<23:24, 2.56it/s]
train loss:0.00418368658152399
70%|█████████████████████████████████████████████████████▉ | 8405/12000 [32:26<20:13, 2.96it/s]
train loss:0.0009237297340847291
70%|█████████████████████████████████████████████████████▉ | 8406/12000 [32:26<18:11, 3.29it/s]
train loss:0.0028632865282507123
70%|█████████████████████████████████████████████████████▉ | 8407/12000 [32:26<16:47, 3.57it/s]
train loss:0.00033066418952240996
70%|█████████████████████████████████████████████████████▉ | 8408/12000 [32:26<15:46, 3.80it/s]
train loss:0.0024091429843478666
70%|█████████████████████████████████████████████████████▉ | 8409/12000 [32:27<15:00, 3.99it/s]
train loss:0.008519841600599062
70%|█████████████████████████████████████████████████████▉ | 8410/12000 [32:27<14:29, 4.13it/s]
train loss:0.0005176026464239809
70%|█████████████████████████████████████████████████████▉ | 8411/12000 [32:27<14:09, 4.22it/s]
train loss:0.003584900654504359
70%|█████████████████████████████████████████████████████▉ | 8412/12000 [32:27<13:58, 4.28it/s]
train loss:0.0003076108901516719
70%|█████████████████████████████████████████████████████▉ | 8413/12000 [32:28<13:54, 4.30it/s]
train loss:0.027771676869574654
70%|█████████████████████████████████████████████████████▉ | 8414/12000 [32:28<13:38, 4.38it/s]
train loss:0.0026779406097601787
70%|█████████████████████████████████████████████████████▉ | 8415/12000 [32:28<13:34, 4.40it/s]
train loss:0.0014008518684789036
70%|██████████████████████████████████████████████████████ | 8416/12000 [32:28<13:32, 4.41it/s]
train loss:0.005393459380998783
70%|██████████████████████████████████████████████████████ | 8417/12000 [32:28<13:31, 4.42it/s]
train loss:0.0003248325786635061
70%|██████████████████████████████████████████████████████ | 8418/12000 [32:29<13:23, 4.46it/s]
train loss:0.0006350035673005364
70%|██████████████████████████████████████████████████████ | 8419/12000 [32:29<13:13, 4.52it/s]
train loss:0.005811139100059054
70%|██████████████████████████████████████████████████████ | 8420/12000 [32:29<13:16, 4.49it/s]
train loss:0.002150170636765229
70%|██████████████████████████████████████████████████████ | 8421/12000 [32:29<13:19, 4.48it/s]
train loss:0.000537389605913239
70%|██████████████████████████████████████████████████████ | 8422/12000 [32:30<13:20, 4.47it/s]
train loss:0.007903825269708295
70%|██████████████████████████████████████████████████████ | 8423/12000 [32:30<13:13, 4.51it/s]
train loss:0.0024278573299346827
70%|██████████████████████████████████████████████████████ | 8424/12000 [32:30<13:15, 4.49it/s]
train loss:0.01215771296410645
70%|██████████████████████████████████████████████████████ | 8425/12000 [32:30<13:18, 4.48it/s]
train loss:0.005560463778992891
70%|██████████████████████████████████████████████████████ | 8426/12000 [32:30<13:19, 4.47it/s]
train loss:0.009381413317345029
70%|██████████████████████████████████████████████████████ | 8427/12000 [32:31<13:15, 4.49it/s]
train loss:0.003987772567181247
70%|██████████████████████████████████████████████████████ | 8428/12000 [32:31<13:17, 4.48it/s]
train loss:0.012254053385360494
70%|██████████████████████████████████████████████████████ | 8429/12000 [32:31<13:19, 4.47it/s]
train loss:0.0006884122666136923
70%|██████████████████████████████████████████████████████ | 8430/12000 [32:31<13:19, 4.47it/s]
train loss:0.0005091797571782642
70%|██████████████████████████████████████████████████████ | 8431/12000 [32:32<13:21, 4.45it/s]
train loss:0.0016407734061006241
70%|██████████████████████████████████████████████████████ | 8432/12000 [32:32<13:12, 4.50it/s]
train loss:0.0038419960793601993
70%|██████████████████████████████████████████████████████ | 8433/12000 [32:32<13:15, 4.49it/s]
train loss:0.0006656972817667844
70%|██████████████████████████████████████████████████████ | 8434/12000 [32:32<13:19, 4.46it/s]
train loss:0.0003143283138404872
70%|██████████████████████████████████████████████████████ | 8435/12000 [32:32<13:20, 4.46it/s]
train loss:0.000982163366139407
70%|██████████████████████████████████████████████████████▏ | 8436/12000 [32:33<13:21, 4.45it/s]
train loss:0.00282550856355599
70%|██████████████████████████████████████████████████████▏ | 8437/12000 [32:33<13:21, 4.45it/s]
train loss:0.004542321444013508
70%|██████████████████████████████████████████████████████▏ | 8438/12000 [32:33<13:25, 4.42it/s]
train loss:0.0004503955477590936
70%|██████████████████████████████████████████████████████▏ | 8439/12000 [32:33<13:24, 4.43it/s]
train loss:0.00047749701463061927
70%|██████████████████████████████████████████████████████▏ | 8440/12000 [32:34<13:24, 4.43it/s]
train loss:0.009201741999734064
70%|██████████████████████████████████████████████████████▏ | 8441/12000 [32:34<13:16, 4.47it/s]
train loss:0.0005168149251222965
70%|██████████████████████████████████████████████████████▏ | 8442/12000 [32:34<13:17, 4.46it/s]
train loss:0.012191682552141654
70%|██████████████████████████████████████████████████████▏ | 8443/12000 [32:34<13:18, 4.46it/s]
train loss:0.00207615767285978
70%|██████████████████████████████████████████████████████▏ | 8444/12000 [32:34<13:17, 4.46it/s]
train loss:0.0007868115810588074
70%|██████████████████████████████████████████████████████▏ | 8445/12000 [32:35<13:09, 4.50it/s]
train loss:0.0005167154460720235
70%|██████████████████████████████████████████████████████▏ | 8446/12000 [32:35<13:11, 4.49it/s]
train loss:0.0021208602735048026
70%|██████████████████████████████████████████████████████▏ | 8447/12000 [32:35<13:13, 4.48it/s]
train loss:0.002875969357498949
70%|██████████████████████████████████████████████████████▏ | 8448/12000 [32:35<13:15, 4.47it/s]
train loss:0.00025270652323960545
70%|██████████████████████████████████████████████████████▏ | 8449/12000 [32:36<13:22, 4.42it/s]
train loss:0.0002491806915612599
70%|██████████████████████████████████████████████████████▏ | 8450/12000 [32:36<13:11, 4.48it/s]
train loss:0.014632259990577143
70%|██████████████████████████████████████████████████████▏ | 8451/12000 [32:36<13:15, 4.46it/s]
train loss:0.00035117296104821905
70%|██████████████████████████████████████████████████████▏ | 8452/12000 [32:36<13:17, 4.45it/s]
train loss:0.0008905507876655225
70%|██████████████████████████████████████████████████████▏ | 8453/12000 [32:36<13:22, 4.42it/s]
train loss:0.0005612265189499578
70%|██████████████████████████████████████████████████████▏ | 8454/12000 [32:37<13:10, 4.48it/s]
train loss:0.029397119538159523
70%|██████████████████████████████████████████████████████▎ | 8455/12000 [32:37<13:10, 4.48it/s]
train loss:0.0022986411055537993
70%|██████████████████████████████████████████████████████▎ | 8456/12000 [32:37<13:16, 4.45it/s]
train loss:0.0016479774078952394
70%|██████████████████████████████████████████████████████▎ | 8457/12000 [32:37<13:16, 4.45it/s]
train loss:0.002608176398960369
70%|██████████████████████████████████████████████████████▎ | 8458/12000 [32:38<13:23, 4.41it/s]
train loss:0.011358386640794176
70%|██████████████████████████████████████████████████████▎ | 8459/12000 [32:38<13:20, 4.43it/s]
train loss:0.0002680658885839116
70%|██████████████████████████████████████████████████████▎ | 8460/12000 [32:38<13:19, 4.43it/s]
train loss:0.0022024930956145118
71%|██████████████████████████████████████████████████████▎ | 8461/12000 [32:38<13:22, 4.41it/s]
train loss:0.0005290629337099356
71%|██████████████████████████████████████████████████████▎ | 8462/12000 [32:38<13:23, 4.40it/s]
train loss:0.0019324300440776584
71%|██████████████████████████████████████████████████████▎ | 8463/12000 [32:39<13:11, 4.47it/s]
train loss:0.0013062098019370613
71%|██████████████████████████████████████████████████████▎ | 8464/12000 [32:39<13:12, 4.46it/s]
train loss:0.0025748857627484645
71%|██████████████████████████████████████████████████████▎ | 8465/12000 [32:39<13:15, 4.44it/s]
train loss:0.00730054626150063
71%|██████████████████████████████████████████████████████▎ | 8466/12000 [32:39<13:13, 4.45it/s]
train loss:8.359725970580145e-05
71%|██████████████████████████████████████████████████████▎ | 8467/12000 [32:40<13:09, 4.48it/s]
train loss:0.0010969243678878866
71%|██████████████████████████████████████████████████████▎ | 8468/12000 [32:40<13:07, 4.48it/s]
train loss:0.0028892231710040844
71%|██████████████████████████████████████████████████████▎ | 8469/12000 [32:40<13:11, 4.46it/s]
train loss:0.0014545938216520352
71%|██████████████████████████████████████████████████████▎ | 8470/12000 [32:40<13:27, 4.37it/s]
train loss:0.007157992232668874
71%|██████████████████████████████████████████████████████▎ | 8471/12000 [32:41<13:22, 4.40it/s]
train loss:0.003947921631854948
71%|██████████████████████████████████████████████████████▎ | 8472/12000 [32:41<13:40, 4.30it/s]
train loss:0.002069562311833743
71%|██████████████████████████████████████████████████████▎ | 8473/12000 [32:41<13:32, 4.34it/s]
train loss:0.001730556789104922
71%|██████████████████████████████████████████████████████▎ | 8474/12000 [32:41<13:28, 4.36it/s]
train loss:0.011956009563615444
71%|██████████████████████████████████████████████████████▍ | 8475/12000 [32:41<13:28, 4.36it/s]
train loss:0.000631582802955244
71%|██████████████████████████████████████████████████████▍ | 8476/12000 [32:42<13:20, 4.40it/s]
train loss:0.0001122277948823437
71%|██████████████████████████████████████████████████████▍ | 8477/12000 [32:42<13:20, 4.40it/s]
train loss:0.0015178133369873209
71%|██████████████████████████████████████████████████████▍ | 8478/12000 [32:42<13:18, 4.41it/s]
train loss:0.0011661248725414375
71%|██████████████████████████████████████████████████████▍ | 8479/12000 [32:42<13:44, 4.27it/s]
train loss:0.0037923716340847557
71%|██████████████████████████████████████████████████████▍ | 8480/12000 [32:43<13:36, 4.31it/s]
train loss:0.002545536792738572
71%|██████████████████████████████████████████████████████▍ | 8481/12000 [32:43<13:52, 4.23it/s]
train loss:0.0012382357846405787
71%|██████████████████████████████████████████████████████▍ | 8482/12000 [32:43<13:43, 4.27it/s]
train loss:0.000603686977552836
71%|██████████████████████████████████████████████████████▍ | 8483/12000 [32:43<13:33, 4.32it/s]
train loss:0.002611348544814598
71%|██████████████████████████████████████████████████████▍ | 8484/12000 [32:44<13:27, 4.35it/s]
train loss:0.000148606514013678
71%|██████████████████████████████████████████████████████▍ | 8485/12000 [32:44<13:10, 4.44it/s]
train loss:8.704114195307592e-05
71%|██████████████████████████████████████████████████████▍ | 8486/12000 [32:44<13:10, 4.44it/s]
train loss:0.007032274274862415
71%|██████████████████████████████████████████████████████▍ | 8487/12000 [32:44<13:11, 4.44it/s]
train loss:0.0004173396825061891
71%|██████████████████████████████████████████████████████▍ | 8488/12000 [32:44<13:38, 4.29it/s]
train loss:0.005037413618669256
71%|██████████████████████████████████████████████████████▍ | 8489/12000 [32:45<13:20, 4.39it/s]
train loss:0.0012700529443823258
71%|██████████████████████████████████████████████████████▍ | 8490/12000 [32:45<13:42, 4.27it/s]
train loss:0.0008491299819448943
71%|██████████████████████████████████████████████████████▍ | 8491/12000 [32:45<13:31, 4.33it/s]
train loss:0.0009536334102574601
71%|██████████████████████████████████████████████████████▍ | 8492/12000 [32:45<13:24, 4.36it/s]
train loss:0.003355358013466464
71%|██████████████████████████████████████████████████████▌ | 8494/12000 [32:46<13:04, 4.47it/s]
train loss:0.0002840772947516172 train loss:0.000781463191303032
71%|██████████████████████████████████████████████████████▌ | 8495/12000 [32:46<13:19, 4.39it/s]
train loss:0.003967996376473074
71%|██████████████████████████████████████████████████████▌ | 8496/12000 [32:46<13:26, 4.35it/s]
train loss:0.004518502977064428
71%|██████████████████████████████████████████████████████▌ | 8497/12000 [32:46<13:19, 4.38it/s]
train loss:0.0009159033946566201
71%|██████████████████████████████████████████████████████▌ | 8498/12000 [32:47<13:05, 4.46it/s]
train loss:0.002183779093478833
71%|██████████████████████████████████████████████████████▌ | 8499/12000 [32:47<13:06, 4.45it/s]
train loss:0.0006026188759175294
71%|██████████████████████████████████████████████████████▌ | 8500/12000 [32:47<13:05, 4.46it/s]
train loss:0.0017637362720971583
71%|██████████████████████████████████████████████████████▌ | 8501/12000 [32:47<13:06, 4.45it/s]
train loss:0.0050980043641731055
71%|██████████████████████████████████████████████████████▌ | 8502/12000 [32:48<13:03, 4.46it/s]
train loss:0.0012302857966961435
71%|██████████████████████████████████████████████████████▌ | 8503/12000 [32:48<13:00, 4.48it/s]
train loss:0.0013618837133162276
71%|██████████████████████████████████████████████████████▌ | 8504/12000 [32:48<13:01, 4.48it/s]
train loss:0.0015412065498811823
71%|██████████████████████████████████████████████████████▌ | 8505/12000 [32:48<13:00, 4.48it/s]
train loss:0.002999244952345324
71%|██████████████████████████████████████████████████████▌ | 8507/12000 [32:49<12:54, 4.51it/s]
train loss:0.005577387407796731 train loss:0.0004751713165494581
71%|██████████████████████████████████████████████████████▌ | 8508/12000 [32:49<12:57, 4.49it/s]
train loss:0.0014315935770370914
71%|██████████████████████████████████████████████████████▌ | 8509/12000 [32:49<13:16, 4.38it/s]
train loss:0.0011653088107562801
71%|██████████████████████████████████████████████████████▌ | 8510/12000 [32:49<13:40, 4.26it/s]
train loss:0.026143547980561663
71%|██████████████████████████████████████████████████████▌ | 8511/12000 [32:50<13:17, 4.37it/s]
train loss:0.0010876090100134426
71%|██████████████████████████████████████████████████████▌ | 8512/12000 [32:50<13:13, 4.39it/s]
train loss:0.004470657426778646
71%|██████████████████████████████████████████████████████▋ | 8513/12000 [32:50<13:10, 4.41it/s]
train loss:0.0008683553904027717
71%|██████████████████████████████████████████████████████▋ | 8514/12000 [32:50<13:08, 4.42it/s]
train loss:0.004479555043475445
71%|██████████████████████████████████████████████████████▋ | 8515/12000 [32:51<13:07, 4.43it/s]
train loss:0.0001995805842465417
71%|██████████████████████████████████████████████████████▋ | 8516/12000 [32:51<12:56, 4.49it/s]
train loss:0.000717798579775375
71%|██████████████████████████████████████████████████████▋ | 8517/12000 [32:51<12:57, 4.48it/s]
train loss:6.127310065895854e-05
71%|██████████████████████████████████████████████████████▋ | 8518/12000 [32:51<12:58, 4.47it/s]
train loss:0.0011361216625092162
71%|██████████████████████████████████████████████████████▋ | 8519/12000 [32:51<13:08, 4.42it/s]
train loss:0.0025737102959079005
71%|██████████████████████████████████████████████████████▋ | 8520/12000 [32:52<12:55, 4.48it/s]
train loss:7.498252284781678e-05
71%|██████████████████████████████████████████████████████▋ | 8521/12000 [32:52<13:01, 4.45it/s]
train loss:0.0037310735828056905
71%|██████████████████████████████████████████████████████▋ | 8522/12000 [32:52<13:02, 4.45it/s]
train loss:0.0014057374230096668
71%|██████████████████████████████████████████████████████▋ | 8523/12000 [32:52<13:07, 4.42it/s]
train loss:0.0010388527572967503
71%|██████████████████████████████████████████████████████▋ | 8524/12000 [32:53<13:06, 4.42it/s]
train loss:0.009425244889219201
71%|██████████████████████████████████████████████████████▋ | 8525/12000 [32:53<12:54, 4.48it/s]
train loss:0.0023139318349726643
71%|██████████████████████████████████████████████████████▋ | 8526/12000 [32:53<12:55, 4.48it/s]
train loss:0.0006148921814634615
71%|██████████████████████████████████████████████████████▋ | 8527/12000 [32:53<12:56, 4.47it/s]
train loss:0.00108947355339407
71%|██████████████████████████████████████████████████████▋ | 8528/12000 [32:53<12:57, 4.46it/s]
train loss:0.0011307926547019834
71%|██████████████████████████████████████████████████████▋ | 8529/12000 [32:54<12:50, 4.51it/s]
train loss:0.09875361420441749
71%|██████████████████████████████████████████████████████▋ | 8530/12000 [32:54<12:53, 4.49it/s]
train loss:0.003354820009575285
71%|██████████████████████████████████████████████████████▋ | 8531/12000 [32:54<12:59, 4.45it/s]
train loss:0.00039975762702478733
71%|██████████████████████████████████████████████████████▋ | 8532/12000 [32:54<13:10, 4.39it/s]
train loss:0.0029021013261228417
71%|██████████████████████████████████████████████████████▊ | 8533/12000 [32:55<13:03, 4.42it/s]
train loss:0.0027556085613408064
71%|██████████████████████████████████████████████████████▊ | 8534/12000 [32:55<12:57, 4.46it/s]
train loss:0.005169640707063793
71%|██████████████████████████████████████████████████████▊ | 8535/12000 [32:55<12:57, 4.45it/s]
train loss:0.0019134346276158429
71%|██████████████████████████████████████████████████████▊ | 8536/12000 [32:55<12:56, 4.46it/s]
train loss:0.00044430064484736643
71%|██████████████████████████████████████████████████████▊ | 8537/12000 [32:55<12:56, 4.46it/s]
train loss:0.004083989400393567
71%|██████████████████████████████████████████████████████▊ | 8538/12000 [32:56<12:49, 4.50it/s]
train loss:0.001698082095057746
71%|██████████████████████████████████████████████████████▊ | 8539/12000 [32:56<12:51, 4.48it/s]
train loss:0.0002707837325446494
71%|██████████████████████████████████████████████████████▊ | 8540/12000 [32:56<12:52, 4.48it/s]
train loss:0.0008536903023034543
71%|██████████████████████████████████████████████████████▊ | 8541/12000 [32:56<12:53, 4.47it/s]
train loss:0.006037795640142474
71%|██████████████████████████████████████████████████████▊ | 8542/12000 [32:57<12:58, 4.44it/s]
train loss:0.0047699145610493035
71%|██████████████████████████████████████████████████████▊ | 8543/12000 [32:57<12:53, 4.47it/s]
train loss:0.004107377090944823
71%|██████████████████████████████████████████████████████▊ | 8544/12000 [32:57<13:26, 4.28it/s]
train loss:8.180944612505557e-05
71%|██████████████████████████████████████████████████████▊ | 8545/12000 [32:57<13:55, 4.13it/s]
train loss:0.0006434156687378635
71%|██████████████████████████████████████████████████████▊ | 8546/12000 [32:58<13:46, 4.18it/s]
train loss:0.0018543458127435169
71%|██████████████████████████████████████████████████████▊ | 8547/12000 [32:58<13:39, 4.21it/s]
train loss:0.000238491890484683
71%|██████████████████████████████████████████████████████▊ | 8548/12000 [32:58<13:30, 4.26it/s]
train loss:0.00659009616915482
71%|██████████████████████████████████████████████████████▊ | 8549/12000 [32:58<13:23, 4.30it/s]
train loss:0.001402865606046947
71%|██████████████████████████████████████████████████████▊ | 8550/12000 [32:58<13:06, 4.38it/s]
train loss:0.0061724424430550885
71%|██████████████████████████████████████████████████████▊ | 8551/12000 [32:59<12:52, 4.47it/s]
train loss:0.00765906421264118
71%|██████████████████████████████████████████████████████▉ | 8552/12000 [32:59<12:54, 4.45it/s]
train loss:0.0007200939052827906
71%|██████████████████████████████████████████████████████▉ | 8553/12000 [32:59<12:55, 4.44it/s]
train loss:0.0019037022742235902
71%|██████████████████████████████████████████████████████▉ | 8554/12000 [32:59<12:55, 4.44it/s]
train loss:0.006493569737319208
71%|██████████████████████████████████████████████████████▉ | 8555/12000 [33:00<12:52, 4.46it/s]
train loss:0.0021129010490750777
71%|██████████████████████████████████████████████████████▉ | 8556/12000 [33:00<12:50, 4.47it/s]
train loss:0.0009265071338296082
71%|██████████████████████████████████████████████████████▉ | 8557/12000 [33:00<12:50, 4.47it/s]
train loss:0.0035631376831814316
71%|██████████████████████████████████████████████████████▉ | 8558/12000 [33:00<12:50, 4.47it/s]
train loss:0.0033875400691590284
71%|██████████████████████████████████████████████████████▉ | 8559/12000 [33:00<12:52, 4.45it/s]
train loss:0.001124110057666563
71%|██████████████████████████████████████████████████████▉ | 8560/12000 [33:01<12:51, 4.46it/s]
train loss:0.00152343293628987
71%|██████████████████████████████████████████████████████▉ | 8561/12000 [33:01<12:53, 4.45it/s]
train loss:0.01008750464399795
71%|██████████████████████████████████████████████████████▉ | 8562/12000 [33:01<12:50, 4.46it/s]
train loss:0.0004781476218769246
71%|██████████████████████████████████████████████████████▉ | 8563/12000 [33:01<12:52, 4.45it/s]
train loss:0.0019519793873526774
71%|██████████████████████████████████████████████████████▉ | 8564/12000 [33:02<12:47, 4.48it/s]
train loss:0.005122169617195054
71%|██████████████████████████████████████████████████████▉ | 8565/12000 [33:02<12:45, 4.49it/s]
train loss:0.013318742048367244
71%|██████████████████████████████████████████████████████▉ | 8566/12000 [33:02<12:45, 4.49it/s]
train loss:0.006215729507991099
71%|██████████████████████████████████████████████████████▉ | 8567/12000 [33:02<12:47, 4.47it/s]
train loss:0.0005430341751729316
71%|██████████████████████████████████████████████████████▉ | 8568/12000 [33:02<12:51, 4.45it/s]
train loss:0.000737617748662777
71%|██████████████████████████████████████████████████████▉ | 8569/12000 [33:03<12:42, 4.50it/s]
train loss:0.002680154816785602
71%|██████████████████████████████████████████████████████▉ | 8570/12000 [33:03<12:43, 4.49it/s]
train loss:0.0012995402179684814
71%|██████████████████████████████████████████████████████▉ | 8571/12000 [33:03<12:46, 4.47it/s]
train loss:0.020521304894919306
71%|███████████████████████████████████████████████████████ | 8572/12000 [33:03<12:46, 4.47it/s]
train loss:0.0034951305892255095
71%|███████████████████████████████████████████████████████ | 8573/12000 [33:04<12:41, 4.50it/s]
train loss:0.00041521909714825904
71%|███████████████████████████████████████████████████████ | 8574/12000 [33:04<12:45, 4.48it/s]
train loss:0.0025583535023735475
71%|███████████████████████████████████████████████████████ | 8575/12000 [33:04<12:47, 4.46it/s]
train loss:0.003381862262516446
71%|███████████████████████████████████████████████████████ | 8576/12000 [33:04<12:46, 4.47it/s]
train loss:0.00554885313697882
71%|███████████████████████████████████████████████████████ | 8577/12000 [33:05<12:46, 4.47it/s]
train loss:0.017005711371038238
71%|███████████████████████████████████████████████████████ | 8578/12000 [33:05<12:41, 4.50it/s]
train loss:0.001728360038740641
71%|███████████████████████████████████████████████████████ | 8579/12000 [33:05<12:40, 4.50it/s]
train loss:0.00258339491793885
72%|███████████████████████████████████████████████████████ | 8580/12000 [33:05<12:42, 4.49it/s]
train loss:0.014831770624292433
72%|███████████████████████████████████████████████████████ | 8581/12000 [33:05<12:42, 4.49it/s]
train loss:0.01118374716202724
72%|███████████████████████████████████████████████████████ | 8582/12000 [33:06<12:41, 4.49it/s]
train loss:0.0013955062367713546
72%|███████████████████████████████████████████████████████ | 8583/12000 [33:06<12:41, 4.49it/s]
train loss:0.0006529863452956133
72%|███████████████████████████████████████████████████████ | 8584/12000 [33:06<12:53, 4.42it/s]
train loss:0.0012495593178465084
72%|███████████████████████████████████████████████████████ | 8585/12000 [33:06<12:52, 4.42it/s]
train loss:0.008222327442527535
72%|███████████████████████████████████████████████████████ | 8586/12000 [33:07<12:53, 4.41it/s]
train loss:0.0011514554383605005
72%|███████████████████████████████████████████████████████ | 8587/12000 [33:07<12:41, 4.48it/s]
train loss:0.006334583786325651
72%|███████████████████████████████████████████████████████ | 8588/12000 [33:07<13:05, 4.34it/s]
train loss:0.0043079107082796605
72%|███████████████████████████████████████████████████████ | 8589/12000 [33:07<12:58, 4.38it/s]
train loss:0.005275514222661161
72%|███████████████████████████████████████████████████████ | 8590/12000 [33:07<12:53, 4.41it/s]
train loss:0.0013554974471620509
72%|███████████████████████████████████████████████████████▏ | 8591/12000 [33:08<12:43, 4.46it/s]
train loss:0.0034654579744648408
72%|███████████████████████████████████████████████████████▏ | 8592/12000 [33:08<12:46, 4.45it/s]
train loss:0.001222141921387385
72%|███████████████████████████████████████████████████████▏ | 8593/12000 [33:08<12:46, 4.44it/s]
train loss:0.0014959775759459779
72%|███████████████████████████████████████████████████████▏ | 8594/12000 [33:08<12:47, 4.44it/s]
train loss:0.00044449529653558536
72%|███████████████████████████████████████████████████████▏ | 8595/12000 [33:09<12:48, 4.43it/s]
train loss:0.0005690903623214411
72%|███████████████████████████████████████████████████████▏ | 8596/12000 [33:09<12:41, 4.47it/s]
train loss:0.004917798320080598
72%|███████████████████████████████████████████████████████▏ | 8597/12000 [33:09<12:41, 4.47it/s]
train loss:0.001037074988741955
72%|███████████████████████████████████████████████████████▏ | 8598/12000 [33:09<12:42, 4.46it/s]
train loss:0.0001490894857890645
72%|███████████████████████████████████████████████████████▏ | 8599/12000 [33:09<12:43, 4.45it/s]
train loss:0.00411320718333051
72%|███████████████████████████████████████████████████████▏ | 8600/12000 [33:10<12:34, 4.51it/s]
train loss:0.0012915844871252639
72%|███████████████████████████████████████████████████████▏ | 8601/12000 [33:10<12:38, 4.48it/s]
train loss:0.003160712355112143
72%|███████████████████████████████████████████████████████▏ | 8602/12000 [33:10<12:39, 4.48it/s]
train loss:0.0009948757947796092
72%|███████████████████████████████████████████████████████▏ | 8603/12000 [33:10<12:39, 4.47it/s]
train loss:0.001385873631073744
72%|███████████████████████████████████████████████████████▏ | 8604/12000 [33:11<12:38, 4.48it/s]
train loss:0.005249642673309924
72%|███████████████████████████████████████████████████████▏ | 8605/12000 [33:11<12:31, 4.52it/s]
train loss:0.0019680537507636028
72%|███████████████████████████████████████████████████████▏ | 8606/12000 [33:11<12:33, 4.50it/s]
train loss:0.0004261665775858778
72%|███████████████████████████████████████████████████████▏ | 8607/12000 [33:11<12:34, 4.50it/s]
train loss:0.0012439238680579318
72%|███████████████████████████████████████████████████████▏ | 8608/12000 [33:11<12:37, 4.48it/s]
train loss:0.0116992197272613
72%|███████████████████████████████████████████████████████▏ | 8609/12000 [33:12<12:29, 4.52it/s]
train loss:0.0017205794158988777
72%|███████████████████████████████████████████████████████▏ | 8610/12000 [33:12<12:32, 4.51it/s]
train loss:0.0033225560281355563
72%|███████████████████████████████████████████████████████▎ | 8611/12000 [33:12<12:34, 4.49it/s]
train loss:0.00017581896874637351
72%|███████████████████████████████████████████████████████▎ | 8612/12000 [33:12<12:36, 4.48it/s]
train loss:0.002860637064542833
72%|███████████████████████████████████████████████████████▎ | 8613/12000 [33:13<12:35, 4.49it/s]
train loss:0.005616177751664501
72%|███████████████████████████████████████████████████████▎ | 8614/12000 [33:13<12:26, 4.53it/s]
train loss:0.00734693299225273
72%|███████████████████████████████████████████████████████▎ | 8615/12000 [33:13<12:32, 4.50it/s]
train loss:0.0019102601161508084
72%|███████████████████████████████████████████████████████▎ | 8616/12000 [33:13<12:34, 4.48it/s]
train loss:0.0007390110777441475
72%|███████████████████████████████████████████████████████▎ | 8617/12000 [33:13<12:37, 4.47it/s]
train loss:0.0002903514106581569
72%|███████████████████████████████████████████████████████▎ | 8618/12000 [33:14<12:29, 4.51it/s]
train loss:0.0012605058063314067
72%|███████████████████████████████████████████████████████▎ | 8619/12000 [33:14<12:31, 4.50it/s]
train loss:0.0013670721270929158
72%|███████████████████████████████████████████████████████▎ | 8620/12000 [33:14<12:33, 4.49it/s]
train loss:0.00116599998212604
72%|███████████████████████████████████████████████████████▎ | 8621/12000 [33:14<12:36, 4.47it/s]
train loss:0.0039405868303291364
72%|███████████████████████████████████████████████████████▎ | 8622/12000 [33:15<12:37, 4.46it/s]
train loss:0.0009629984463422996
72%|███████████████████████████████████████████████████████▎ | 8623/12000 [33:15<12:30, 4.50it/s]
train loss:0.002605418911248902
72%|███████████████████████████████████████████████████████▎ | 8624/12000 [33:15<12:32, 4.49it/s]
train loss:0.0021316024070829765
72%|███████████████████████████████████████████████████████▎ | 8625/12000 [33:15<12:33, 4.48it/s]
train loss:0.0008567157172465182
72%|███████████████████████████████████████████████████████▎ | 8626/12000 [33:15<12:35, 4.46it/s]
train loss:0.002046906709998041
72%|███████████████████████████████████████████████████████▎ | 8627/12000 [33:16<12:27, 4.51it/s]
train loss:0.0008669990081308815
72%|███████████████████████████████████████████████████████▎ | 8628/12000 [33:16<12:29, 4.50it/s]
train loss:0.0032919846918100697
72%|███████████████████████████████████████████████████████▎ | 8629/12000 [33:16<12:34, 4.47it/s]
train loss:0.0020295207524572588
72%|███████████████████████████████████████████████████████▍ | 8630/12000 [33:16<12:36, 4.46it/s]
train loss:0.0015146020928415163
72%|███████████████████████████████████████████████████████▍ | 8631/12000 [33:17<12:34, 4.46it/s]
train loss:0.0006721099512057388
72%|███████████████████████████████████████████████████████▍ | 8632/12000 [33:17<12:32, 4.48it/s]
train loss:0.00036121631110095823
72%|███████████████████████████████████████████████████████▍ | 8633/12000 [33:17<12:35, 4.45it/s]
train loss:0.0018019028625990308
72%|███████████████████████████████████████████████████████▍ | 8634/12000 [33:17<12:36, 4.45it/s]
train loss:0.002402419846013722
72%|███████████████████████████████████████████████████████▍ | 8635/12000 [33:17<12:42, 4.41it/s]
train loss:0.0037508633586002854
72%|███████████████████████████████████████████████████████▍ | 8636/12000 [33:18<12:32, 4.47it/s]
train loss:0.0004459246265999756
72%|███████████████████████████████████████████████████████▍ | 8637/12000 [33:18<12:33, 4.46it/s]
train loss:8.452328018902003e-05
72%|███████████████████████████████████████████████████████▍ | 8638/12000 [33:18<12:35, 4.45it/s]
train loss:0.0006439730719463927
72%|███████████████████████████████████████████████████████▍ | 8639/12000 [33:18<12:37, 4.44it/s]
train loss:0.001051701028004037
72%|███████████████████████████████████████████████████████▍ | 8640/12000 [33:19<12:34, 4.46it/s]
train loss:0.0010087542510084583
72%|███████████████████████████████████████████████████████▍ | 8641/12000 [33:19<12:38, 4.43it/s]
train loss:0.00398157578408453
72%|███████████████████████████████████████████████████████▍ | 8642/12000 [33:19<12:38, 4.43it/s]
train loss:0.0031395823684130645
72%|███████████████████████████████████████████████████████▍ | 8643/12000 [33:19<12:39, 4.42it/s]
train loss:0.0003301084103062571
72%|███████████████████████████████████████████████████████▍ | 8644/12000 [33:20<12:43, 4.40it/s]
train loss:0.0016148813045435424
72%|███████████████████████████████████████████████████████▍ | 8645/12000 [33:20<12:32, 4.46it/s]
train loss:0.002489050120774452
72%|███████████████████████████████████████████████████████▍ | 8646/12000 [33:20<12:35, 4.44it/s]
train loss:0.00026392861077299134
72%|███████████████████████████████████████████████████████▍ | 8647/12000 [33:20<12:37, 4.42it/s]
train loss:0.0013780723016478891
72%|███████████████████████████████████████████████████████▍ | 8648/12000 [33:20<12:40, 4.41it/s]
train loss:0.0022979768621040897
72%|███████████████████████████████████████████████████████▍ | 8649/12000 [33:21<12:31, 4.46it/s]
train loss:0.0014796548797462998
72%|███████████████████████████████████████████████████████▌ | 8650/12000 [33:21<12:34, 4.44it/s]
train loss:0.005768863344432475
72%|███████████████████████████████████████████████████████▌ | 8651/12000 [33:21<12:34, 4.44it/s]
train loss:0.004962192805493854
72%|███████████████████████████████████████████████████████▌ | 8652/12000 [33:21<12:35, 4.43it/s]
train loss:0.002192435759821537
72%|███████████████████████████████████████████████████████▌ | 8653/12000 [33:22<12:35, 4.43it/s]
train loss:0.00175289990113025
72%|███████████████████████████████████████████████████████▌ | 8654/12000 [33:22<12:30, 4.46it/s]
train loss:0.0004492945695595711
72%|███████████████████████████████████████████████████████▌ | 8655/12000 [33:22<12:32, 4.45it/s]
train loss:0.004722940252608666
72%|███████████████████████████████████████████████████████▌ | 8656/12000 [33:22<12:35, 4.43it/s]
train loss:0.0009815277718600553
72%|███████████████████████████████████████████████████████▌ | 8657/12000 [33:22<12:36, 4.42it/s]
train loss:0.00160978492666996
72%|███████████████████████████████████████████████████████▌ | 8658/12000 [33:23<12:27, 4.47it/s]
train loss:0.0003926963202209876
72%|███████████████████████████████████████████████████████▌ | 8659/12000 [33:23<12:29, 4.46it/s]
train loss:0.0009395328822739092
72%|███████████████████████████████████████████████████████▌ | 8660/12000 [33:23<12:31, 4.45it/s]
train loss:0.0014297646713132656
72%|███████████████████████████████████████████████████████▌ | 8661/12000 [33:23<12:31, 4.45it/s]
train loss:0.0012433867003685559
72%|███████████████████████████████████████████████████████▌ | 8662/12000 [33:24<12:31, 4.44it/s]
train loss:0.004947869715137313
72%|███████████████████████████████████████████████████████▌ | 8663/12000 [33:24<12:27, 4.46it/s]
train loss:0.0028466042268101783
72%|███████████████████████████████████████████████████████▌ | 8664/12000 [33:24<12:33, 4.43it/s]
train loss:0.00046383016838868384
72%|███████████████████████████████████████████████████████▌ | 8665/12000 [33:24<12:34, 4.42it/s]
train loss:0.00021500452967495716
72%|███████████████████████████████████████████████████████▌ | 8666/12000 [33:24<12:47, 4.35it/s]
train loss:0.011754444504019756
72%|███████████████████████████████████████████████████████▌ | 8667/12000 [33:25<12:35, 4.41it/s]
train loss:0.00020011264141899757
72%|███████████████████████████████████████████████████████▌ | 8668/12000 [33:25<12:25, 4.47it/s]
train loss:0.0025617366174209896
72%|███████████████████████████████████████████████████████▋ | 8669/12000 [33:25<12:29, 4.44it/s]
train loss:0.005412019579725525
72%|███████████████████████████████████████████████████████▋ | 8670/12000 [33:25<12:29, 4.44it/s]
train loss:0.0038109218057057197
72%|███████████████████████████████████████████████████████▋ | 8671/12000 [33:26<12:31, 4.43it/s]
train loss:0.0005039510445515109
72%|███████████████████████████████████████████████████████▋ | 8672/12000 [33:26<12:27, 4.45it/s]
train loss:0.0017555392632523168
72%|███████████████████████████████████████████████████████▋ | 8673/12000 [33:26<12:27, 4.45it/s]
train loss:0.0004523265819917309
72%|███████████████████████████████████████████████████████▋ | 8674/12000 [33:26<12:29, 4.44it/s]
train loss:0.002443315860901402
72%|███████████████████████████████████████████████████████▋ | 8676/12000 [33:27<12:20, 4.49it/s]
train loss:0.0020452630725615708 train loss:0.005673502607751626
72%|███████████████████████████████████████████████████████▋ | 8677/12000 [33:27<12:22, 4.48it/s]
train loss:0.0015468021740653504
72%|███████████████████████████████████████████████████████▋ | 8678/12000 [33:27<12:22, 4.47it/s]
train loss:0.0008750137192748706
72%|███████████████████████████████████████████████████████▋ | 8679/12000 [33:27<12:24, 4.46it/s]
train loss:0.003647481940326561
72%|███████████████████████████████████████████████████████▋ | 8680/12000 [33:28<12:20, 4.48it/s]
train loss:0.0024506092531884826
72%|███████████████████████████████████████████████████████▋ | 8681/12000 [33:28<12:20, 4.48it/s]
train loss:0.001158607094996311
72%|███████████████████████████████████████████████████████▋ | 8682/12000 [33:28<12:25, 4.45it/s]
train loss:0.02028344621151349
72%|███████████████████████████████████████████████████████▋ | 8683/12000 [33:28<12:25, 4.45it/s]
train loss:0.0014340141167191833
72%|███████████████████████████████████████████████████████▋ | 8684/12000 [33:29<12:26, 4.44it/s]
train loss:0.002881877381230061
72%|███████████████████████████████████████████████████████▋ | 8685/12000 [33:29<12:16, 4.50it/s]
train loss:0.0014173297777705044
72%|███████████████████████████████████████████████████████▋ | 8686/12000 [33:29<12:17, 4.49it/s]
train loss:0.0006650190251101687
72%|███████████████████████████████████████████████████████▋ | 8687/12000 [33:29<12:20, 4.48it/s]
train loss:0.00210542999803686
72%|███████████████████████████████████████████████████████▋ | 8688/12000 [33:29<12:20, 4.47it/s]
train loss:0.0006174767745611301
72%|███████████████████████████████████████████████████████▊ | 8689/12000 [33:30<12:15, 4.50it/s]
train loss:0.0002726655283810511
72%|███████████████████████████████████████████████████████▊ | 8690/12000 [33:30<12:16, 4.49it/s]
train loss:0.00018837466260856602
72%|███████████████████████████████████████████████████████▊ | 8691/12000 [33:30<12:17, 4.49it/s]
train loss:0.0003370189951135723
72%|███████████████████████████████████████████████████████▊ | 8692/12000 [33:30<12:22, 4.45it/s]
train loss:0.00520323056473659
72%|███████████████████████████████████████████████████████▊ | 8693/12000 [33:31<12:26, 4.43it/s]
train loss:0.0006601525232911554
72%|███████████████████████████████████████████████████████▊ | 8694/12000 [33:31<12:15, 4.49it/s]
train loss:0.0004849482667068093
72%|███████████████████████████████████████████████████████▊ | 8695/12000 [33:31<12:18, 4.48it/s]
train loss:0.003121165930979754
72%|███████████████████████████████████████████████████████▊ | 8696/12000 [33:31<12:19, 4.47it/s]
train loss:0.007109519149082287
72%|███████████████████████████████████████████████████████▊ | 8697/12000 [33:31<12:19, 4.47it/s]
train loss:0.0040533711090622124
72%|███████████████████████████████████████████████████████▊ | 8698/12000 [33:32<12:13, 4.50it/s]
train loss:0.002988860485339936
72%|███████████████████████████████████████████████████████▊ | 8699/12000 [33:32<12:13, 4.50it/s]
train loss:0.0004037372102968763
72%|███████████████████████████████████████████████████████▊ | 8700/12000 [33:32<12:15, 4.48it/s]
train loss:0.004284119599769316
73%|███████████████████████████████████████████████████████▊ | 8701/12000 [33:32<12:17, 4.47it/s]
train loss:0.0014578624836337093
73%|███████████████████████████████████████████████████████▊ | 8702/12000 [33:33<12:19, 4.46it/s]
train loss:0.0013391013116508233
73%|███████████████████████████████████████████████████████▊ | 8703/12000 [33:33<12:14, 4.49it/s]
train loss:0.0012691393911545708
73%|███████████████████████████████████████████████████████▊ | 8704/12000 [33:33<12:16, 4.48it/s]
train loss:0.00597638272079037
73%|███████████████████████████████████████████████████████▊ | 8705/12000 [33:33<12:18, 4.46it/s]
train loss:0.004635307278284317
73%|███████████████████████████████████████████████████████▊ | 8706/12000 [33:33<12:18, 4.46it/s]
train loss:0.00035433229075259177
73%|███████████████████████████████████████████████████████▊ | 8707/12000 [33:34<12:14, 4.49it/s]
train loss:0.0024374358383215853
73%|███████████████████████████████████████████████████████▉ | 8708/12000 [33:34<12:19, 4.45it/s]
train loss:0.002304936920867587
73%|███████████████████████████████████████████████████████▉ | 8709/12000 [33:34<12:21, 4.44it/s]
train loss:0.026599546623816552
73%|███████████████████████████████████████████████████████▉ | 8710/12000 [33:34<12:22, 4.43it/s]
train loss:0.0343865504094822
73%|███████████████████████████████████████████████████████▉ | 8711/12000 [33:35<12:22, 4.43it/s]
train loss:0.0020738312950980306
73%|███████████████████████████████████████████████████████▉ | 8712/12000 [33:35<12:13, 4.48it/s]
train loss:0.000197866354584916
73%|███████████████████████████████████████████████████████▉ | 8713/12000 [33:35<12:16, 4.46it/s]
train loss:0.007021547232503859
73%|███████████████████████████████████████████████████████▉ | 8714/12000 [33:35<12:18, 4.45it/s]
train loss:0.0007254276635521209
73%|███████████████████████████████████████████████████████▉ | 8715/12000 [33:35<12:19, 4.44it/s]
train loss:0.0010868403617762881
73%|███████████████████████████████████████████████████████▉ | 8716/12000 [33:36<12:12, 4.49it/s]
train loss:0.0012466183870418754
73%|███████████████████████████████████████████████████████▉ | 8717/12000 [33:36<12:13, 4.48it/s]
train loss:0.0010253163349711934
73%|███████████████████████████████████████████████████████▉ | 8718/12000 [33:36<12:25, 4.40it/s]
train loss:0.002461056185132952
73%|███████████████████████████████████████████████████████▉ | 8719/12000 [33:36<12:24, 4.41it/s]
train loss:0.0003364954392598216
73%|███████████████████████████████████████████████████████▉ | 8720/12000 [33:37<12:23, 4.41it/s]
train loss:0.0007683101066762646
73%|███████████████████████████████████████████████████████▉ | 8721/12000 [33:37<12:16, 4.45it/s]
train loss:0.0010500243222455689
73%|███████████████████████████████████████████████████████▉ | 8722/12000 [33:37<12:15, 4.46it/s]
train loss:0.005846257356521428
73%|███████████████████████████████████████████████████████▉ | 8723/12000 [33:37<12:16, 4.45it/s]
train loss:0.00099556682011361
73%|███████████████████████████████████████████████████████▉ | 8724/12000 [33:37<12:17, 4.44it/s]
train loss:0.0003104575826709714
73%|███████████████████████████████████████████████████████▉ | 8725/12000 [33:38<12:10, 4.49it/s]
train loss:0.0037758895609264187
73%|███████████████████████████████████████████████████████▉ | 8726/12000 [33:38<12:12, 4.47it/s]
train loss:0.003345104399417489
73%|███████████████████████████████████████████████████████▉ | 8727/12000 [33:38<12:14, 4.45it/s]
train loss:0.0012856263670193919
73%|████████████████████████████████████████████████████████ | 8728/12000 [33:38<12:16, 4.44it/s]
train loss:0.004176192534782666
73%|████████████████████████████████████████████████████████ | 8729/12000 [33:39<12:13, 4.46it/s]
train loss:0.004838654144533061
73%|████████████████████████████████████████████████████████ | 8730/12000 [33:39<12:10, 4.47it/s]
train loss:0.002370399205758862
73%|████████████████████████████████████████████████████████ | 8731/12000 [33:39<12:12, 4.47it/s]
train loss:0.000866259709665555
73%|████████████████████████████████████████████████████████ | 8732/12000 [33:39<12:12, 4.46it/s]
train loss:0.0007593358077452246
73%|████████████████████████████████████████████████████████ | 8733/12000 [33:39<12:13, 4.45it/s]
train loss:0.00022144590137252617
73%|████████████████████████████████████████████████████████ | 8734/12000 [33:40<12:05, 4.50it/s]
train loss:0.017078090935900393
73%|████████████████████████████████████████████████████████ | 8735/12000 [33:40<12:09, 4.48it/s]
train loss:0.0021444330871035013
73%|████████████████████████████████████████████████████████ | 8736/12000 [33:40<12:11, 4.46it/s]
train loss:0.00994500602965641
73%|████████████████████████████████████████████████████████ | 8737/12000 [33:40<12:13, 4.45it/s]
train loss:0.02296794821274539
73%|████████████████████████████████████████████████████████ | 8738/12000 [33:41<12:15, 4.43it/s]
train loss:0.001921475314781552
73%|████████████████████████████████████████████████████████ | 8739/12000 [33:41<12:04, 4.50it/s]
train loss:0.004644154573823019
73%|████████████████████████████████████████████████████████ | 8740/12000 [33:41<12:05, 4.49it/s]
train loss:0.0015944630005436595
73%|████████████████████████████████████████████████████████ | 8741/12000 [33:41<12:09, 4.47it/s]
train loss:0.002171741211236243
73%|████████████████████████████████████████████████████████ | 8742/12000 [33:42<12:24, 4.37it/s]
train loss:0.0017183556330450857
73%|████████████████████████████████████████████████████████ | 8743/12000 [33:42<12:14, 4.44it/s]
train loss:0.003568357638371477
73%|████████████████████████████████████████████████████████ | 8744/12000 [33:42<12:18, 4.41it/s]
train loss:0.002378863412743262
73%|████████████████████████████████████████████████████████ | 8745/12000 [33:42<12:17, 4.41it/s]
train loss:0.001013380757645211
73%|████████████████████████████████████████████████████████ | 8746/12000 [33:42<12:42, 4.27it/s]
train loss:0.0015188720394489642
73%|████████████████████████████████████████████████████████▏ | 8747/12000 [33:43<12:45, 4.25it/s]
train loss:0.0004189671010946647
73%|████████████████████████████████████████████████████████▏ | 8748/12000 [33:43<12:52, 4.21it/s]
train loss:0.004657048845462075
73%|████████████████████████████████████████████████████████▏ | 8749/12000 [33:43<12:39, 4.28it/s]
train loss:0.004210554130064938
73%|████████████████████████████████████████████████████████▏ | 8750/12000 [33:43<12:32, 4.32it/s]
train loss:0.0017914864993215204
73%|████████████████████████████████████████████████████████▏ | 8751/12000 [33:44<12:32, 4.31it/s]
train loss:0.002662347463981377
73%|████████████████████████████████████████████████████████▏ | 8752/12000 [33:44<12:22, 4.38it/s]
train loss:0.00025361227692032094
73%|████████████████████████████████████████████████████████▏ | 8753/12000 [33:44<12:17, 4.40it/s]
train loss:0.00033828944416771154
73%|████████████████████████████████████████████████████████▏ | 8754/12000 [33:44<12:13, 4.43it/s]
train loss:0.005400072459592914
73%|████████████████████████████████████████████████████████▏ | 8755/12000 [33:45<12:18, 4.40it/s]
train loss:0.002008299066177621
73%|████████████████████████████████████████████████████████▏ | 8756/12000 [33:45<12:46, 4.23it/s]
train loss:0.0009350442951902253
73%|████████████████████████████████████████████████████████▏ | 8757/12000 [33:45<13:01, 4.15it/s]
train loss:0.004186390980821443
73%|████████████████████████████████████████████████████████▏ | 8758/12000 [33:45<13:05, 4.13it/s]
train loss:0.0018105267360162647
73%|████████████████████████████████████████████████████████▏ | 8759/12000 [33:45<13:02, 4.14it/s]
train loss:0.0029174183503249186
73%|████████████████████████████████████████████████████████▏ | 8760/12000 [33:46<12:43, 4.25it/s]
train loss:0.0017784626496043165
73%|████████████████████████████████████████████████████████▏ | 8761/12000 [33:46<12:34, 4.29it/s]
train loss:0.005655967805732072
73%|████████████████████████████████████████████████████████▏ | 8762/12000 [33:46<12:34, 4.29it/s]
train loss:0.002209145161427185
73%|████████████████████████████████████████████████████████▏ | 8763/12000 [33:46<12:50, 4.20it/s]
train loss:0.000659546041058312
73%|████████████████████████████████████████████████████████▏ | 8764/12000 [33:47<12:28, 4.33it/s]
train loss:0.002065522755136268
73%|████████████████████████████████████████████████████████▏ | 8765/12000 [33:47<12:21, 4.36it/s]
train loss:0.004053536547868764
73%|████████████████████████████████████████████████████████▏ | 8766/12000 [33:47<12:18, 4.38it/s]
train loss:0.004238096428183598
73%|████████████████████████████████████████████████████████▎ | 8767/12000 [33:47<12:15, 4.40it/s]
train loss:0.006499639172517851
73%|████████████████████████████████████████████████████████▎ | 8768/12000 [33:48<12:11, 4.42it/s]
train loss:0.0009026265883802929
73%|████████████████████████████████████████████████████████▎ | 8769/12000 [33:48<12:03, 4.47it/s]
train loss:0.0006308900998820247
73%|████████████████████████████████████████████████████████▎ | 8770/12000 [33:48<12:03, 4.47it/s]
train loss:0.0028716038116978686
73%|████████████████████████████████████████████████████████▎ | 8771/12000 [33:48<12:04, 4.46it/s]
train loss:0.004827004899684318
73%|████████████████████████████████████████████████████████▎ | 8772/12000 [33:48<12:05, 4.45it/s]
train loss:0.0015482982802389517
73%|████████████████████████████████████████████████████████▎ | 8773/12000 [33:49<11:56, 4.50it/s]
train loss:4.351898858349581e-05
73%|████████████████████████████████████████████████████████▎ | 8774/12000 [33:49<11:58, 4.49it/s]
train loss:0.00039206861389416323
73%|████████████████████████████████████████████████████████▎ | 8775/12000 [33:49<12:00, 4.48it/s]
train loss:0.0002479247961558822
73%|████████████████████████████████████████████████████████▎ | 8776/12000 [33:49<12:01, 4.47it/s]
train loss:0.0015872001485048204
73%|████████████████████████████████████████████████████████▎ | 8777/12000 [33:50<12:03, 4.45it/s]
train loss:0.0005004681816474726
73%|████████████████████████████████████████████████████████▎ | 8778/12000 [33:50<11:55, 4.50it/s]
train loss:0.0022680488788555174
73%|████████████████████████████████████████████████████████▎ | 8779/12000 [33:50<11:57, 4.49it/s]
train loss:0.0007696538619681602
73%|████████████████████████████████████████████████████████▎ | 8780/12000 [33:50<11:59, 4.48it/s]
train loss:0.0032224531981816856
73%|████████████████████████████████████████████████████████▎ | 8781/12000 [33:50<12:07, 4.43it/s]
train loss:0.0014056335855139083
73%|████████████████████████████████████████████████████████▎ | 8782/12000 [33:51<12:06, 4.43it/s]
train loss:0.0013802080490814112
73%|████████████████████████████████████████████████████████▎ | 8783/12000 [33:51<12:07, 4.42it/s]
train loss:0.0008900344885925304
73%|████████████████████████████████████████████████████████▎ | 8784/12000 [33:51<12:06, 4.43it/s]
train loss:0.0002766156320448938
73%|████████████████████████████████████████████████████████▎ | 8785/12000 [33:51<12:06, 4.43it/s]
train loss:0.007062756032518148
73%|████████████████████████████████████████████████████████▍ | 8786/12000 [33:52<12:09, 4.40it/s]
train loss:0.0008407021811430912
73%|████████████████████████████████████████████████████████▍ | 8787/12000 [33:52<12:05, 4.43it/s]
train loss:0.006415183933664237
73%|████████████████████████████████████████████████████████▍ | 8788/12000 [33:52<12:05, 4.43it/s]
train loss:0.0008716037534669743
73%|████████████████████████████████████████████████████████▍ | 8789/12000 [33:52<12:04, 4.43it/s]
train loss:0.0041148563911474695
73%|████████████████████████████████████████████████████████▍ | 8791/12000 [33:53<11:57, 4.47it/s]
train loss:0.006442541446904402 train loss:0.002682138861132909
73%|████████████████████████████████████████████████████████▍ | 8792/12000 [33:53<12:00, 4.45it/s]
train loss:0.00719451586353538
73%|████████████████████████████████████████████████████████▍ | 8793/12000 [33:53<12:25, 4.30it/s]
train loss:0.0023413129436818097
73%|████████████████████████████████████████████████████████▍ | 8794/12000 [33:53<12:20, 4.33it/s]
train loss:0.0017440912295491906
73%|████████████████████████████████████████████████████████▍ | 8795/12000 [33:54<12:21, 4.32it/s]
train loss:0.004149349509261137
73%|████████████████████████████████████████████████████████▍ | 8796/12000 [33:54<12:16, 4.35it/s]
train loss:0.004455295362598399
73%|████████████████████████████████████████████████████████▍ | 8797/12000 [33:54<12:10, 4.39it/s]
train loss:0.0004795116915474539
73%|████████████████████████████████████████████████████████▍ | 8798/12000 [33:54<12:08, 4.40it/s]
train loss:0.0036955990790274334
73%|████████████████████████████████████████████████████████▍ | 8799/12000 [33:55<12:08, 4.39it/s]
train loss:0.000125043625958414
73%|████████████████████████████████████████████████████████▍ | 8800/12000 [33:55<11:59, 4.45it/s]
train loss:0.0011183170973302831
73%|████████████████████████████████████████████████████████▍ | 8801/12000 [33:55<11:58, 4.45it/s]
train loss:0.002228793757354236
73%|████████████████████████████████████████████████████████▍ | 8802/12000 [33:55<11:59, 4.44it/s]
train loss:0.0029857809938616258
73%|████████████████████████████████████████████████████████▍ | 8803/12000 [33:55<12:00, 4.44it/s]
train loss:0.00037564152263873385
73%|████████████████████████████████████████████████████████▍ | 8804/12000 [33:56<11:54, 4.48it/s]
train loss:0.0014239648076937639
73%|████████████████████████████████████████████████████████▍ | 8805/12000 [33:56<11:56, 4.46it/s]
train loss:0.0007339111633885538
73%|████████████████████████████████████████████████████████▌ | 8806/12000 [33:56<11:58, 4.44it/s]
train loss:0.0028804553403527994
73%|████████████████████████████████████████████████████████▌ | 8807/12000 [33:56<12:01, 4.43it/s]
train loss:0.0017532902199414167
73%|████████████████████████████████████████████████████████▌ | 8808/12000 [33:57<12:11, 4.36it/s]
train loss:0.0012757414279109794
73%|████████████████████████████████████████████████████████▌ | 8809/12000 [33:57<12:05, 4.40it/s]
train loss:0.0010764703932779277
73%|████████████████████████████████████████████████████████▌ | 8810/12000 [33:57<12:05, 4.40it/s]
train loss:0.0027299628040236986
73%|████████████████████████████████████████████████████████▌ | 8811/12000 [33:57<12:04, 4.40it/s]
train loss:0.0030625300669732064
73%|████████████████████████████████████████████████████████▌ | 8812/12000 [33:57<12:06, 4.39it/s]
train loss:0.0008818874090997167
73%|████████████████████████████████████████████████████████▌ | 8813/12000 [33:58<11:56, 4.45it/s]
train loss:0.0010737598311509674
73%|████████████████████████████████████████████████████████▌ | 8814/12000 [33:58<11:56, 4.45it/s]
train loss:0.0021423857807536103
73%|████████████████████████████████████████████████████████▌ | 8815/12000 [33:58<12:00, 4.42it/s]
train loss:0.00034375956537858256
73%|████████████████████████████████████████████████████████▌ | 8816/12000 [33:58<11:59, 4.42it/s]
train loss:0.007559125747359804
73%|████████████████████████████████████████████████████████▌ | 8817/12000 [33:59<11:53, 4.46it/s]
train loss:0.0005045790608733795
73%|████████████████████████████████████████████████████████▌ | 8818/12000 [33:59<11:55, 4.45it/s]
train loss:0.002179893065771647
73%|████████████████████████████████████████████████████████▌ | 8819/12000 [33:59<11:58, 4.43it/s]
train loss:0.0007209164645342434
74%|████████████████████████████████████████████████████████▌ | 8820/12000 [33:59<11:57, 4.43it/s]
train loss:8.822550601246029e-05
74%|████████████████████████████████████████████████████████▌ | 8821/12000 [34:00<12:00, 4.41it/s]
train loss:0.01414080273872579
74%|████████████████████████████████████████████████████████▌ | 8822/12000 [34:00<11:52, 4.46it/s]
train loss:0.0002686208630433624
74%|████████████████████████████████████████████████████████▌ | 8823/12000 [34:00<11:52, 4.46it/s]
train loss:0.002256445539198928
74%|████████████████████████████████████████████████████████▌ | 8824/12000 [34:00<11:52, 4.46it/s]
train loss:0.000833470835425374
74%|████████████████████████████████████████████████████████▋ | 8825/12000 [34:00<11:55, 4.44it/s]
train loss:0.001151855949512874
74%|████████████████████████████████████████████████████████▋ | 8826/12000 [34:01<11:50, 4.47it/s]
train loss:0.005342272053916802
74%|████████████████████████████████████████████████████████▋ | 8827/12000 [34:01<11:53, 4.45it/s]
train loss:0.002836826025840473
74%|████████████████████████████████████████████████████████▋ | 8828/12000 [34:01<11:53, 4.45it/s]
train loss:0.0012438988264713775
74%|████████████████████████████████████████████████████████▋ | 8829/12000 [34:01<11:52, 4.45it/s]
train loss:0.0020411467076550515
74%|████████████████████████████████████████████████████████▋ | 8830/12000 [34:02<11:53, 4.44it/s]
train loss:0.005458472319527564
74%|████████████████████████████████████████████████████████▋ | 8831/12000 [34:02<11:46, 4.49it/s]
train loss:0.0006967643000469234
74%|████████████████████████████████████████████████████████▋ | 8832/12000 [34:02<11:49, 4.47it/s]
train loss:0.0017294153033344823
74%|████████████████████████████████████████████████████████▋ | 8833/12000 [34:02<11:52, 4.45it/s]
train loss:0.00013542569648076922
74%|████████████████████████████████████████████████████████▋ | 8834/12000 [34:02<11:54, 4.43it/s]
train loss:0.00499095966786012
74%|████████████████████████████████████████████████████████▋ | 8835/12000 [34:03<11:46, 4.48it/s]
train loss:0.00022946593107930842
74%|████████████████████████████████████████████████████████▋ | 8836/12000 [34:03<11:47, 4.47it/s]
train loss:0.0016010603086102407
74%|████████████████████████████████████████████████████████▋ | 8837/12000 [34:03<11:49, 4.46it/s]
train loss:0.0014521797596315322
74%|████████████████████████████████████████████████████████▋ | 8838/12000 [34:03<11:52, 4.44it/s]
train loss:0.0015893923854394978
74%|████████████████████████████████████████████████████████▋ | 8839/12000 [34:04<11:52, 4.44it/s]
train loss:0.002701580677115304
74%|████████████████████████████████████████████████████████▋ | 8840/12000 [34:04<11:45, 4.48it/s]
train loss:0.0009535252999999253
74%|████████████████████████████████████████████████████████▋ | 8841/12000 [34:04<11:48, 4.46it/s]
train loss:0.0009973121721349233
74%|████████████████████████████████████████████████████████▋ | 8842/12000 [34:04<11:49, 4.45it/s]
train loss:0.003942490513021608
74%|████████████████████████████████████████████████████████▋ | 8843/12000 [34:04<11:50, 4.44it/s]
train loss:0.0030253306439098284
74%|████████████████████████████████████████████████████████▋ | 8844/12000 [34:05<11:44, 4.48it/s]
train loss:0.0004967020983224407
74%|████████████████████████████████████████████████████████▊ | 8845/12000 [34:05<11:47, 4.46it/s]
train loss:0.0015944041951741921
74%|████████████████████████████████████████████████████████▊ | 8846/12000 [34:05<11:49, 4.45it/s]
train loss:0.0003596791966648621
74%|████████████████████████████████████████████████████████▊ | 8847/12000 [34:05<11:51, 4.43it/s]
train loss:0.0007763129863044183
74%|████████████████████████████████████████████████████████▊ | 8848/12000 [34:06<12:32, 4.19it/s]
train loss:0.000558915865429064
74%|████████████████████████████████████████████████████████▊ | 8849/12000 [34:06<12:17, 4.27it/s]
train loss:0.0015820479024782302
74%|████████████████████████████████████████████████████████▊ | 8850/12000 [34:06<12:15, 4.28it/s]
train loss:0.0006881201578636591
74%|████████████████████████████████████████████████████████▊ | 8851/12000 [34:06<12:08, 4.32it/s]
train loss:0.0007530750113092174
74%|████████████████████████████████████████████████████████▊ | 8852/12000 [34:07<12:05, 4.34it/s]
train loss:0.0033417609730453327
74%|████████████████████████████████████████████████████████▊ | 8853/12000 [34:07<12:18, 4.26it/s]
train loss:0.002038130091720097
74%|████████████████████████████████████████████████████████▊ | 8854/12000 [34:07<12:11, 4.30it/s]
train loss:0.0031478728028759197
74%|████████████████████████████████████████████████████████▊ | 8855/12000 [34:07<12:04, 4.34it/s]
train loss:0.0023373219422549683
74%|████████████████████████████████████████████████████████▊ | 8856/12000 [34:07<12:01, 4.36it/s]
train loss:0.00032554652909376854
74%|████████████████████████████████████████████████████████▊ | 8857/12000 [34:08<11:52, 4.41it/s]
train loss:0.006511636312622502
74%|████████████████████████████████████████████████████████▊ | 8858/12000 [34:08<11:50, 4.42it/s]
train loss:0.0009953857768026076
74%|████████████████████████████████████████████████████████▊ | 8859/12000 [34:08<11:49, 4.43it/s]
train loss:0.000620776659061939
74%|████████████████████████████████████████████████████████▊ | 8860/12000 [34:08<11:48, 4.43it/s]
train loss:0.001793036390001982
74%|████████████████████████████████████████████████████████▊ | 8861/12000 [34:09<11:49, 4.42it/s]
train loss:0.012290458970406846
74%|████████████████████████████████████████████████████████▊ | 8862/12000 [34:09<11:42, 4.47it/s]
train loss:0.0006261167242675274
74%|████████████████████████████████████████████████████████▊ | 8863/12000 [34:09<11:45, 4.45it/s]
train loss:0.002265479531244284
74%|████████████████████████████████████████████████████████▉ | 8864/12000 [34:09<11:47, 4.43it/s]
train loss:0.0026855324079599506
74%|████████████████████████████████████████████████████████▉ | 8865/12000 [34:09<12:01, 4.34it/s]
train loss:0.0006829988097835054
74%|████████████████████████████████████████████████████████▉ | 8866/12000 [34:10<11:48, 4.43it/s]
train loss:0.002129329858535066
74%|████████████████████████████████████████████████████████▉ | 8867/12000 [34:10<12:12, 4.28it/s]
train loss:0.0028156762670727546
74%|████████████████████████████████████████████████████████▉ | 8868/12000 [34:10<12:03, 4.33it/s]
train loss:0.0011494130340230792
74%|████████████████████████████████████████████████████████▉ | 8869/12000 [34:10<11:58, 4.35it/s]
train loss:0.02731939116079667
74%|████████████████████████████████████████████████████████▉ | 8870/12000 [34:11<11:51, 4.40it/s]
train loss:0.00592545964824413
74%|████████████████████████████████████████████████████████▉ | 8871/12000 [34:11<11:50, 4.41it/s]
train loss:0.010166777832622424
74%|████████████████████████████████████████████████████████▉ | 8872/12000 [34:11<11:50, 4.41it/s]
train loss:0.00041640284324607514
74%|████████████████████████████████████████████████████████▉ | 8873/12000 [34:11<11:49, 4.41it/s]
train loss:0.00018514653593942253
74%|████████████████████████████████████████████████████████▉ | 8874/12000 [34:12<11:50, 4.40it/s]
train loss:0.002421628035210639
74%|████████████████████████████████████████████████████████▉ | 8875/12000 [34:12<11:42, 4.45it/s]
train loss:0.001333268356888465
74%|████████████████████████████████████████████████████████▉ | 8876/12000 [34:12<11:44, 4.43it/s]
train loss:0.0001615814156825918
74%|████████████████████████████████████████████████████████▉ | 8877/12000 [34:12<11:46, 4.42it/s]
train loss:0.0010092226798282104
74%|████████████████████████████████████████████████████████▉ | 8878/12000 [34:12<11:48, 4.41it/s]
train loss:0.00044842145186289954
74%|████████████████████████████████████████████████████████▉ | 8879/12000 [34:13<11:45, 4.43it/s]
train loss:0.0008039291509918874
74%|████████████████████████████████████████████████████████▉ | 8880/12000 [34:13<11:34, 4.49it/s]
train loss:0.000165177857732585
74%|████████████████████████████████████████████████████████▉ | 8881/12000 [34:13<11:43, 4.43it/s]
train loss:0.00103125420017456
74%|████████████████████████████████████████████████████████▉ | 8882/12000 [34:13<11:42, 4.44it/s]
train loss:0.0007227711870284008
74%|████████████████████████████████████████████████████████▉ | 8883/12000 [34:14<11:42, 4.44it/s]
train loss:0.002701505584247978
74%|█████████████████████████████████████████████████████████ | 8884/12000 [34:14<11:33, 4.49it/s]
train loss:0.003785730728363303
74%|█████████████████████████████████████████████████████████ | 8885/12000 [34:14<11:35, 4.48it/s]
train loss:0.005316069883755806
74%|█████████████████████████████████████████████████████████ | 8886/12000 [34:14<11:36, 4.47it/s]
train loss:3.3022991681941246e-05
74%|█████████████████████████████████████████████████████████ | 8887/12000 [34:14<11:38, 4.45it/s]
train loss:0.00222057430958496
74%|█████████████████████████████████████████████████████████ | 8888/12000 [34:15<11:34, 4.48it/s]
train loss:0.0013569753818323351
74%|█████████████████████████████████████████████████████████ | 8889/12000 [34:15<11:35, 4.47it/s]
train loss:0.0009824177658304088
74%|█████████████████████████████████████████████████████████ | 8890/12000 [34:15<11:37, 4.46it/s]
train loss:0.0003125526580877718
74%|█████████████████████████████████████████████████████████ | 8891/12000 [34:15<11:38, 4.45it/s]
train loss:0.0007775805346589702
74%|█████████████████████████████████████████████████████████ | 8892/12000 [34:16<11:37, 4.45it/s]
train loss:0.008104325921548776
74%|█████████████████████████████████████████████████████████ | 8893/12000 [34:16<11:32, 4.49it/s]
train loss:0.00023296646779646485
74%|█████████████████████████████████████████████████████████ | 8894/12000 [34:16<11:35, 4.47it/s]
train loss:0.00609459927790543
74%|█████████████████████████████████████████████████████████ | 8895/12000 [34:16<11:36, 4.46it/s]
train loss:0.003373869997865891
74%|█████████████████████████████████████████████████████████ | 8896/12000 [34:16<11:38, 4.44it/s]
train loss:0.00558136756358676
74%|█████████████████████████████████████████████████████████ | 8897/12000 [34:17<11:33, 4.47it/s]
train loss:0.0012926820804163317
74%|█████████████████████████████████████████████████████████ | 8898/12000 [34:17<11:40, 4.43it/s]
train loss:0.002461599883283134
74%|█████████████████████████████████████████████████████████ | 8899/12000 [34:17<11:38, 4.44it/s]
train loss:0.001381993841059373
74%|█████████████████████████████████████████████████████████ | 8900/12000 [34:17<11:41, 4.42it/s]
train loss:0.0033861231990503994
74%|█████████████████████████████████████████████████████████ | 8901/12000 [34:18<11:37, 4.44it/s]
train loss:0.0013229498675852893
74%|█████████████████████████████████████████████████████████ | 8902/12000 [34:18<11:35, 4.45it/s]
train loss:0.0002953620783062241
74%|█████████████████████████████████████████████████████████▏ | 8903/12000 [34:18<11:38, 4.43it/s]
train loss:0.00029118392593040405
74%|█████████████████████████████████████████████████████████▏ | 8904/12000 [34:18<11:38, 4.43it/s]
train loss:0.0018468815435004331
74%|█████████████████████████████████████████████████████████▏ | 8905/12000 [34:19<11:48, 4.37it/s]
train loss:0.0033091946822807012
74%|█████████████████████████████████████████████████████████▏ | 8906/12000 [34:19<11:32, 4.47it/s]
train loss:0.0009607498301325536
74%|█████████████████████████████████████████████████████████▏ | 8907/12000 [34:19<11:31, 4.47it/s]
train loss:0.00072337550397466
74%|█████████████████████████████████████████████████████████▏ | 8908/12000 [34:19<11:31, 4.47it/s]
train loss:0.0026816659643098904
74%|█████████████████████████████████████████████████████████▏ | 8909/12000 [34:19<11:34, 4.45it/s]
train loss:0.007865502357449592
74%|█████████████████████████████████████████████████████████▏ | 8910/12000 [34:20<11:55, 4.32it/s]
train loss:0.0016445908565047881
74%|█████████████████████████████████████████████████████████▏ | 8911/12000 [34:20<12:15, 4.20it/s]
train loss:0.00352533849584208
74%|█████████████████████████████████████████████████████████▏ | 8912/12000 [34:20<12:06, 4.25it/s]
train loss:0.004681670624087392
74%|█████████████████████████████████████████████████████████▏ | 8913/12000 [34:20<11:58, 4.29it/s]
train loss:0.0013508736418512608
74%|█████████████████████████████████████████████████████████▏ | 8914/12000 [34:21<12:22, 4.16it/s]
train loss:0.00012604450641451564
74%|█████████████████████████████████████████████████████████▏ | 8915/12000 [34:21<12:04, 4.26it/s]
train loss:0.0005987950386476062
74%|█████████████████████████████████████████████████████████▏ | 8916/12000 [34:21<11:55, 4.31it/s]
train loss:0.0004962901864253725
74%|█████████████████████████████████████████████████████████▏ | 8917/12000 [34:21<11:48, 4.35it/s]
train loss:0.003843256314885774
74%|█████████████████████████████████████████████████████████▏ | 8918/12000 [34:22<11:44, 4.37it/s]
train loss:0.006488554646203661
74%|█████████████████████████████████████████████████████████▏ | 8919/12000 [34:22<11:33, 4.44it/s]
train loss:0.0012852594957766775
74%|█████████████████████████████████████████████████████████▏ | 8920/12000 [34:22<11:33, 4.44it/s]
train loss:0.004001533803395436
74%|█████████████████████████████████████████████████████████▏ | 8921/12000 [34:22<11:32, 4.45it/s]
train loss:0.004525925006295927
74%|█████████████████████████████████████████████████████████▏ | 8922/12000 [34:22<11:32, 4.45it/s]
train loss:0.004523321248270296
74%|█████████████████████████████████████████████████████████▎ | 8923/12000 [34:23<11:27, 4.48it/s]
train loss:0.0001876763573544701
74%|█████████████████████████████████████████████████████████▎ | 8924/12000 [34:23<11:26, 4.48it/s]
train loss:0.0024288906926514266
74%|█████████████████████████████████████████████████████████▎ | 8925/12000 [34:23<11:28, 4.47it/s]
train loss:0.0007757254219934089
74%|█████████████████████████████████████████████████████████▎ | 8926/12000 [34:23<11:29, 4.46it/s]
train loss:0.002220289197909982
74%|█████████████████████████████████████████████████████████▎ | 8927/12000 [34:24<11:31, 4.44it/s]
train loss:0.00011731170271100633
74%|█████████████████████████████████████████████████████████▎ | 8928/12000 [34:24<11:22, 4.50it/s]
train loss:0.003973759143252533
74%|█████████████████████████████████████████████████████████▎ | 8929/12000 [34:24<11:24, 4.49it/s]
train loss:0.004023526763071949
74%|█████████████████████████████████████████████████████████▎ | 8930/12000 [34:24<11:26, 4.47it/s]
train loss:0.0010057945815358086
74%|█████████████████████████████████████████████████████████▎ | 8931/12000 [34:24<11:27, 4.46it/s]
train loss:0.0007899812944304925
74%|█████████████████████████████████████████████████████████▎ | 8932/12000 [34:25<11:23, 4.49it/s]
train loss:0.00014083481247552918
74%|█████████████████████████████████████████████████████████▎ | 8933/12000 [34:25<11:24, 4.48it/s]
train loss:0.01041110265634726
74%|█████████████████████████████████████████████████████████▎ | 8934/12000 [34:25<11:25, 4.48it/s]
train loss:0.0005580067398097699
74%|█████████████████████████████████████████████████████████▎ | 8935/12000 [34:25<11:26, 4.47it/s]
train loss:0.0017736811933362338
74%|█████████████████████████████████████████████████████████▎ | 8936/12000 [34:26<11:28, 4.45it/s]
train loss:0.0006380127854930871
74%|█████████████████████████████████████████████████████████▎ | 8937/12000 [34:26<11:22, 4.49it/s]
train loss:0.002491729519339932
74%|█████████████████████████████████████████████████████████▎ | 8938/12000 [34:26<11:25, 4.47it/s]
train loss:0.0008276160464352128
74%|█████████████████████████████████████████████████████████▎ | 8939/12000 [34:26<11:27, 4.45it/s]
train loss:0.0012965185475778736
74%|█████████████████████████████████████████████████████████▎ | 8940/12000 [34:26<11:27, 4.45it/s]
train loss:0.0009829049930032932
75%|█████████████████████████████████████████████████████████▎ | 8941/12000 [34:27<11:21, 4.49it/s]
train loss:0.0004607795645732935
75%|█████████████████████████████████████████████████████████▍ | 8942/12000 [34:27<11:23, 4.48it/s]
train loss:0.0014976543568009115
75%|█████████████████████████████████████████████████████████▍ | 8943/12000 [34:27<11:30, 4.42it/s]
train loss:0.0032377892471214414
75%|█████████████████████████████████████████████████████████▍ | 8944/12000 [34:27<11:30, 4.42it/s]
train loss:0.0006624538247232653
75%|█████████████████████████████████████████████████████████▍ | 8945/12000 [34:28<11:29, 4.43it/s]
train loss:0.0019426208219085756
75%|█████████████████████████████████████████████████████████▍ | 8946/12000 [34:28<11:30, 4.42it/s]
train loss:0.003254418120461465
75%|█████████████████████████████████████████████████████████▍ | 8947/12000 [34:28<11:29, 4.43it/s]
train loss:0.0013227437002114354
75%|█████████████████████████████████████████████████████████▍ | 8948/12000 [34:28<11:29, 4.43it/s]
train loss:0.0023552364450902972
75%|█████████████████████████████████████████████████████████▍ | 8949/12000 [34:28<11:39, 4.36it/s]
train loss:0.0012616880732676137
75%|█████████████████████████████████████████████████████████▍ | 8950/12000 [34:29<11:29, 4.42it/s]
train loss:0.0032794796913250533
75%|█████████████████████████████████████████████████████████▍ | 8951/12000 [34:29<11:28, 4.43it/s]
train loss:0.000561154242555478
75%|█████████████████████████████████████████████████████████▍ | 8952/12000 [34:29<11:28, 4.43it/s]
train loss:0.0009544784848258814
75%|█████████████████████████████████████████████████████████▍ | 8953/12000 [34:29<11:30, 4.41it/s]
train loss:0.00032763195514958274
75%|█████████████████████████████████████████████████████████▍ | 8954/12000 [34:30<11:29, 4.42it/s]
train loss:0.006569188868684097
75%|█████████████████████████████████████████████████████████▍ | 8955/12000 [34:30<11:28, 4.42it/s]
train loss:0.005343787767463016
75%|█████████████████████████████████████████████████████████▍ | 8956/12000 [34:30<11:28, 4.42it/s]
train loss:0.003981143954137876
75%|█████████████████████████████████████████████████████████▍ | 8957/12000 [34:30<11:29, 4.41it/s]
train loss:0.0004884372667219214
75%|█████████████████████████████████████████████████████████▍ | 8958/12000 [34:30<11:30, 4.41it/s]
train loss:0.002210286317872883
75%|█████████████████████████████████████████████████████████▍ | 8959/12000 [34:31<11:19, 4.48it/s]
train loss:0.018347351685076497
75%|█████████████████████████████████████████████████████████▍ | 8960/12000 [34:31<11:20, 4.47it/s]
train loss:0.0010460437434859867
75%|█████████████████████████████████████████████████████████▍ | 8961/12000 [34:31<11:21, 4.46it/s]
train loss:0.009918073874493975
75%|█████████████████████████████████████████████████████████▌ | 8962/12000 [34:31<11:22, 4.45it/s]
train loss:0.00200704525125993
75%|█████████████████████████████████████████████████████████▌ | 8963/12000 [34:32<11:20, 4.46it/s]
train loss:0.0010466591036639072
75%|█████████████████████████████████████████████████████████▌ | 8964/12000 [34:32<11:20, 4.46it/s]
train loss:0.0015732776269977464
75%|█████████████████████████████████████████████████████████▌ | 8965/12000 [34:32<11:21, 4.45it/s]
train loss:0.007073881619505538
75%|█████████████████████████████████████████████████████████▌ | 8966/12000 [34:32<11:21, 4.45it/s]
train loss:0.09311313023413689
75%|█████████████████████████████████████████████████████████▌ | 8967/12000 [34:33<11:25, 4.42it/s]
train loss:0.0024420463885071217
75%|█████████████████████████████████████████████████████████▌ | 8968/12000 [34:33<11:17, 4.48it/s]
train loss:0.007441610406691007
75%|█████████████████████████████████████████████████████████▌ | 8969/12000 [34:33<11:19, 4.46it/s]
train loss:0.0015289537038409868
75%|█████████████████████████████████████████████████████████▌ | 8970/12000 [34:33<11:21, 4.44it/s]
train loss:0.0023570756813806825
75%|█████████████████████████████████████████████████████████▌ | 8971/12000 [34:33<11:21, 4.44it/s]
train loss:0.003970981700183482
75%|█████████████████████████████████████████████████████████▌ | 8972/12000 [34:34<11:18, 4.46it/s]
train loss:0.0011622479475813965
75%|█████████████████████████████████████████████████████████▌ | 8973/12000 [34:34<11:18, 4.46it/s]
train loss:0.001960766634843058
75%|█████████████████████████████████████████████████████████▌ | 8974/12000 [34:34<11:19, 4.45it/s]
train loss:0.004056633795129469
75%|█████████████████████████████████████████████████████████▌ | 8975/12000 [34:34<11:20, 4.45it/s]
train loss:0.02636364187022837
75%|█████████████████████████████████████████████████████████▌ | 8976/12000 [34:35<11:22, 4.43it/s]
train loss:0.00039212755915729163
75%|█████████████████████████████████████████████████████████▌ | 8977/12000 [34:35<11:16, 4.47it/s]
train loss:0.0016822453437551857
75%|█████████████████████████████████████████████████████████▌ | 8978/12000 [34:35<11:18, 4.46it/s]
train loss:0.0003046787982092652
75%|█████████████████████████████████████████████████████████▌ | 8979/12000 [34:35<11:19, 4.45it/s]
train loss:0.0010035125187904176
75%|█████████████████████████████████████████████████████████▌ | 8980/12000 [34:35<11:20, 4.44it/s]
train loss:0.002215577919988778
75%|█████████████████████████████████████████████████████████▋ | 8981/12000 [34:36<11:13, 4.48it/s]
train loss:0.005228949520550644
75%|█████████████████████████████████████████████████████████▋ | 8982/12000 [34:36<11:15, 4.46it/s]
train loss:0.005195167369107613
75%|█████████████████████████████████████████████████████████▋ | 8983/12000 [34:36<11:16, 4.46it/s]
train loss:0.0020597582979256022
75%|█████████████████████████████████████████████████████████▋ | 8984/12000 [34:36<11:18, 4.45it/s]
train loss:0.0022226704227503603
75%|█████████████████████████████████████████████████████████▋ | 8985/12000 [34:37<11:20, 4.43it/s]
train loss:0.004828633711355731
75%|█████████████████████████████████████████████████████████▋ | 8986/12000 [34:37<11:11, 4.49it/s]
train loss:0.000243481696715089
75%|█████████████████████████████████████████████████████████▋ | 8987/12000 [34:37<11:13, 4.47it/s]
train loss:0.0007505625836506255
75%|█████████████████████████████████████████████████████████▋ | 8988/12000 [34:37<11:18, 4.44it/s]
train loss:0.002838224712181477
75%|█████████████████████████████████████████████████████████▋ | 8989/12000 [34:37<11:18, 4.44it/s]
train loss:0.005708852515969045
75%|█████████████████████████████████████████████████████████▋ | 8990/12000 [34:38<11:13, 4.47it/s]
train loss:0.0003528556367315232
75%|█████████████████████████████████████████████████████████▋ | 8991/12000 [34:38<11:14, 4.46it/s]
train loss:0.00012069990028112691
75%|█████████████████████████████████████████████████████████▋ | 8992/12000 [34:38<11:16, 4.44it/s]
train loss:0.00036262011942946715
75%|█████████████████████████████████████████████████████████▋ | 8993/12000 [34:38<11:17, 4.44it/s]
train loss:0.0029120628735187642
75%|█████████████████████████████████████████████████████████▋ | 8994/12000 [34:39<11:17, 4.44it/s]
train loss:0.001341725939239036
75%|█████████████████████████████████████████████████████████▋ | 8995/12000 [34:39<11:16, 4.44it/s]
train loss:0.0005932113691330357
75%|█████████████████████████████████████████████████████████▋ | 8996/12000 [34:39<11:18, 4.43it/s]
train loss:0.002820580274896934
75%|█████████████████████████████████████████████████████████▋ | 8997/12000 [34:39<11:18, 4.43it/s]
train loss:0.00059912335957776
75%|█████████████████████████████████████████████████████████▋ | 8998/12000 [34:39<11:21, 4.40it/s]
train loss:0.0011567559639719183
75%|█████████████████████████████████████████████████████████▋ | 8999/12000 [34:40<11:16, 4.44it/s]
train loss:0.005005017562177436
75%|█████████████████████████████████████████████████████████▊ | 9000/12000 [34:40<11:16, 4.43it/s]
train loss:0.0006037159926947401 train loss:0.0009525954768434649
75%|█████████████████████████████████████████████████████████▊ | 9001/12000 [34:42<34:33, 1.45it/s]
=== epoch:16, train acc:1.0, test acc:0.991 ===
75%|█████████████████████████████████████████████████████████▊ | 9002/12000 [34:42<27:33, 1.81it/s]
train loss:0.0026235480201368257
75%|█████████████████████████████████████████████████████████▊ | 9003/12000 [34:42<22:38, 2.21it/s]
train loss:0.0005018392399162859
75%|█████████████████████████████████████████████████████████▊ | 9004/12000 [34:42<19:11, 2.60it/s]
train loss:0.002771078993295763
75%|█████████████████████████████████████████████████████████▊ | 9005/12000 [34:43<16:44, 2.98it/s]
train loss:0.004106672194496501
75%|█████████████████████████████████████████████████████████▊ | 9006/12000 [34:43<15:01, 3.32it/s]
train loss:0.0006103034701731275
75%|█████████████████████████████████████████████████████████▊ | 9007/12000 [34:43<13:52, 3.59it/s]
train loss:0.0023898650006357737
75%|█████████████████████████████████████████████████████████▊ | 9008/12000 [34:43<13:10, 3.79it/s]
train loss:7.722934636978365e-05
75%|█████████████████████████████████████████████████████████▊ | 9009/12000 [34:44<12:35, 3.96it/s]
train loss:0.0027497500944609356
75%|█████████████████████████████████████████████████████████▊ | 9010/12000 [34:44<12:04, 4.13it/s]
train loss:0.01614642828536502
75%|█████████████████████████████████████████████████████████▊ | 9011/12000 [34:44<11:50, 4.21it/s]
train loss:0.0007354512060728817
75%|█████████████████████████████████████████████████████████▊ | 9012/12000 [34:44<11:40, 4.26it/s]
train loss:0.0007173474983504384
75%|█████████████████████████████████████████████████████████▊ | 9013/12000 [34:44<11:39, 4.27it/s]
train loss:0.008891496519001441
75%|█████████████████████████████████████████████████████████▊ | 9014/12000 [34:45<11:30, 4.32it/s]
train loss:0.0007691075181327842
75%|█████████████████████████████████████████████████████████▊ | 9015/12000 [34:45<11:18, 4.40it/s]
train loss:0.0027873553325000505
75%|█████████████████████████████████████████████████████████▊ | 9016/12000 [34:45<11:16, 4.41it/s]
train loss:0.0002718861998084509
75%|█████████████████████████████████████████████████████████▊ | 9017/12000 [34:45<11:22, 4.37it/s]
train loss:0.0030425002489923676
75%|█████████████████████████████████████████████████████████▊ | 9018/12000 [34:46<11:20, 4.39it/s]
train loss:0.0019562577708276134
75%|█████████████████████████████████████████████████████████▊ | 9019/12000 [34:46<11:31, 4.31it/s]
train loss:0.011202433173872744
75%|█████████████████████████████████████████████████████████▉ | 9020/12000 [34:46<11:25, 4.34it/s]
train loss:0.00286785698181295
75%|█████████████████████████████████████████████████████████▉ | 9021/12000 [34:46<11:21, 4.37it/s]
train loss:0.001192398614308131
75%|█████████████████████████████████████████████████████████▉ | 9022/12000 [34:46<11:33, 4.29it/s]
train loss:0.001795693305389888
75%|█████████████████████████████████████████████████████████▉ | 9023/12000 [34:47<11:50, 4.19it/s]
train loss:0.0012081656891988056
75%|█████████████████████████████████████████████████████████▉ | 9024/12000 [34:47<11:36, 4.27it/s]
train loss:0.00032045857228999754
75%|█████████████████████████████████████████████████████████▉ | 9025/12000 [34:47<11:27, 4.33it/s]
train loss:0.01122150469230978
75%|█████████████████████████████████████████████████████████▉ | 9026/12000 [34:47<11:19, 4.37it/s]
train loss:0.00039331102158920517
75%|█████████████████████████████████████████████████████████▉ | 9027/12000 [34:48<11:14, 4.41it/s]
train loss:0.0026524592122284894
75%|█████████████████████████████████████████████████████████▉ | 9028/12000 [34:48<11:03, 4.48it/s]
train loss:0.0032251687504264008
75%|█████████████████████████████████████████████████████████▉ | 9029/12000 [34:48<11:06, 4.46it/s]
train loss:0.0008044975227145975
75%|█████████████████████████████████████████████████████████▉ | 9030/12000 [34:48<11:07, 4.45it/s]
train loss:0.02726151460156406
75%|█████████████████████████████████████████████████████████▉ | 9031/12000 [34:49<11:09, 4.44it/s]
train loss:0.003911385556912855
75%|█████████████████████████████████████████████████████████▉ | 9032/12000 [34:49<11:01, 4.49it/s]
train loss:0.0024873823875595316
75%|█████████████████████████████████████████████████████████▉ | 9033/12000 [34:49<11:02, 4.48it/s]
train loss:0.0002782578183177985
75%|█████████████████████████████████████████████████████████▉ | 9034/12000 [34:49<11:03, 4.47it/s]
train loss:0.0007190933451292694
75%|█████████████████████████████████████████████████████████▉ | 9035/12000 [34:49<11:06, 4.45it/s]
train loss:0.0006853377591600837
75%|█████████████████████████████████████████████████████████▉ | 9036/12000 [34:50<11:03, 4.47it/s]
train loss:0.00043203602800399865
75%|█████████████████████████████████████████████████████████▉ | 9037/12000 [34:50<11:02, 4.47it/s]
train loss:0.00038791351013687863
75%|█████████████████████████████████████████████████████████▉ | 9038/12000 [34:50<11:03, 4.46it/s]
train loss:0.0002823875711457425
75%|██████████████████████████████████████████████████████████ | 9039/12000 [34:50<11:04, 4.46it/s]
train loss:0.001849505384388092
75%|██████████████████████████████████████████████████████████ | 9040/12000 [34:51<11:08, 4.43it/s]
train loss:0.000395338605819589
75%|██████████████████████████████████████████████████████████ | 9041/12000 [34:51<11:00, 4.48it/s]
train loss:0.00033444111555696996
75%|██████████████████████████████████████████████████████████ | 9042/12000 [34:51<11:02, 4.46it/s]
train loss:0.0015037529337824347
75%|██████████████████████████████████████████████████████████ | 9043/12000 [34:51<11:02, 4.46it/s]
train loss:0.0008868078644334824
75%|██████████████████████████████████████████████████████████ | 9044/12000 [34:51<11:04, 4.45it/s]
train loss:0.0019717362782109443
75%|██████████████████████████████████████████████████████████ | 9045/12000 [34:52<10:57, 4.50it/s]
train loss:0.0050600580641971616
75%|██████████████████████████████████████████████████████████ | 9046/12000 [34:52<10:58, 4.49it/s]
train loss:0.004016196254011477
75%|██████████████████████████████████████████████████████████ | 9047/12000 [34:52<11:00, 4.47it/s]
train loss:0.0004064873623669834
75%|██████████████████████████████████████████████████████████ | 9048/12000 [34:52<11:01, 4.46it/s]
train loss:0.0002307185722100978
75%|██████████████████████████████████████████████████████████ | 9049/12000 [34:53<11:02, 4.45it/s]
train loss:0.00041430519642521036
75%|██████████████████████████████████████████████████████████ | 9050/12000 [34:53<10:55, 4.50it/s]
train loss:0.00852744076385444
75%|██████████████████████████████████████████████████████████ | 9051/12000 [34:53<10:58, 4.48it/s]
train loss:0.0008164287130170085
75%|██████████████████████████████████████████████████████████ | 9052/12000 [34:53<10:58, 4.48it/s]
train loss:0.0023825129833794072
75%|██████████████████████████████████████████████████████████ | 9053/12000 [34:53<11:02, 4.45it/s]
train loss:0.0005200119189097609
75%|██████████████████████████████████████████████████████████ | 9054/12000 [34:54<10:56, 4.49it/s]
train loss:0.05541708598628272
75%|██████████████████████████████████████████████████████████ | 9055/12000 [34:54<10:58, 4.48it/s]
train loss:0.009538080906035216
75%|██████████████████████████████████████████████████████████ | 9056/12000 [34:54<11:00, 4.46it/s]
train loss:0.00017266399850571324
75%|██████████████████████████████████████████████████████████ | 9057/12000 [34:54<11:00, 4.45it/s]
train loss:0.0011232168052925065
75%|██████████████████████████████████████████████████████████ | 9058/12000 [34:55<11:00, 4.45it/s]
train loss:0.0026200132638363838
75%|██████████████████████████████████████████████████████████▏ | 9059/12000 [34:55<10:53, 4.50it/s]
train loss:0.0005252527021330773
76%|██████████████████████████████████████████████████████████▏ | 9060/12000 [34:55<10:58, 4.47it/s]
train loss:0.0001881136378377815
76%|██████████████████████████████████████████████████████████▏ | 9061/12000 [34:55<10:59, 4.45it/s]
train loss:0.0005261298891054244
76%|██████████████████████████████████████████████████████████▏ | 9062/12000 [34:55<11:00, 4.45it/s]
train loss:0.005965781041198353
76%|██████████████████████████████████████████████████████████▏ | 9063/12000 [34:56<10:53, 4.50it/s]
train loss:0.0019658300931902324
76%|██████████████████████████████████████████████████████████▏ | 9064/12000 [34:56<10:57, 4.47it/s]
train loss:0.0177705973301467
76%|██████████████████████████████████████████████████████████▏ | 9065/12000 [34:56<10:57, 4.46it/s]
train loss:0.0022972810413831595
76%|██████████████████████████████████████████████████████████▏ | 9066/12000 [34:56<11:00, 4.44it/s]
train loss:0.0015939950077075715
76%|██████████████████████████████████████████████████████████▏ | 9067/12000 [34:57<10:59, 4.45it/s]
train loss:0.00018569759489034073
76%|██████████████████████████████████████████████████████████▏ | 9068/12000 [34:57<10:53, 4.49it/s]
train loss:0.0013737195982981825
76%|██████████████████████████████████████████████████████████▏ | 9069/12000 [34:57<10:55, 4.47it/s]
train loss:0.004908443101764893
76%|██████████████████████████████████████████████████████████▏ | 9070/12000 [34:57<11:17, 4.32it/s]
train loss:0.0019430328145146909
76%|██████████████████████████████████████████████████████████▏ | 9071/12000 [34:57<11:18, 4.32it/s]
train loss:0.002365097252412775
76%|██████████████████████████████████████████████████████████▏ | 9072/12000 [34:58<11:10, 4.37it/s]
train loss:0.0012087795122871536
76%|██████████████████████████████████████████████████████████▏ | 9073/12000 [34:58<11:07, 4.38it/s]
train loss:0.0007767623797775534
76%|██████████████████████████████████████████████████████████▏ | 9074/12000 [34:58<11:03, 4.41it/s]
train loss:0.0010097512768934066
76%|██████████████████████████████████████████████████████████▏ | 9075/12000 [34:58<11:02, 4.41it/s]
train loss:0.000736639972577019
76%|██████████████████████████████████████████████████████████▏ | 9076/12000 [34:59<10:57, 4.45it/s]
train loss:0.0009238322641079823
76%|██████████████████████████████████████████████████████████▏ | 9077/12000 [34:59<10:55, 4.46it/s]
train loss:0.0010629136832559188
76%|██████████████████████████████████████████████████████████▎ | 9078/12000 [34:59<10:54, 4.46it/s]
train loss:0.004732638659381311
76%|██████████████████████████████████████████████████████████▎ | 9079/12000 [34:59<10:54, 4.46it/s]
train loss:8.135508918985236e-05
76%|██████████████████████████████████████████████████████████▎ | 9080/12000 [35:00<11:14, 4.33it/s]
train loss:0.0036459898302650335
76%|██████████████████████████████████████████████████████████▎ | 9081/12000 [35:00<11:23, 4.27it/s]
train loss:0.0006702019313435402
76%|██████████████████████████████████████████████████████████▎ | 9082/12000 [35:00<11:23, 4.27it/s]
train loss:0.0005982839451876881
76%|██████████████████████████████████████████████████████████▎ | 9083/12000 [35:00<11:56, 4.07it/s]
train loss:0.0012123980170212203
76%|██████████████████████████████████████████████████████████▎ | 9084/12000 [35:01<11:53, 4.08it/s]
train loss:0.001200302699096914
76%|██████████████████████████████████████████████████████████▎ | 9085/12000 [35:01<11:34, 4.20it/s]
train loss:0.00021420410202034889
76%|██████████████████████████████████████████████████████████▎ | 9086/12000 [35:01<11:22, 4.27it/s]
train loss:0.00044469055188511164
76%|██████████████████████████████████████████████████████████▎ | 9087/12000 [35:01<11:14, 4.32it/s]
train loss:0.0010977880622933818
76%|██████████████████████████████████████████████████████████▎ | 9088/12000 [35:01<11:08, 4.36it/s]
train loss:7.726606937893259e-05
76%|██████████████████████████████████████████████████████████▎ | 9089/12000 [35:02<10:57, 4.43it/s]
train loss:0.0014514201238065069
76%|██████████████████████████████████████████████████████████▎ | 9090/12000 [35:02<10:56, 4.43it/s]
train loss:0.00019290325238198819
76%|██████████████████████████████████████████████████████████▎ | 9091/12000 [35:02<10:54, 4.44it/s]
train loss:0.0017509344577706545
76%|██████████████████████████████████████████████████████████▎ | 9092/12000 [35:02<10:54, 4.44it/s]
train loss:0.002061859129269549
76%|██████████████████████████████████████████████████████████▎ | 9093/12000 [35:03<10:55, 4.44it/s]
train loss:0.0005079746716784746
76%|██████████████████████████████████████████████████████████▎ | 9094/12000 [35:03<10:49, 4.47it/s]
train loss:0.002023170582681779
76%|██████████████████████████████████████████████████████████▎ | 9095/12000 [35:03<10:49, 4.47it/s]
train loss:0.0005147820262505605
76%|██████████████████████████████████████████████████████████▎ | 9096/12000 [35:03<10:50, 4.46it/s]
train loss:0.0011425700583965882
76%|██████████████████████████████████████████████████████████▎ | 9097/12000 [35:03<10:51, 4.46it/s]
train loss:0.0019861693561359253
76%|██████████████████████████████████████████████████████████▍ | 9098/12000 [35:04<10:44, 4.50it/s]
train loss:0.0002787961130883954
76%|██████████████████████████████████████████████████████████▍ | 9099/12000 [35:04<10:47, 4.48it/s]
train loss:0.0009883060869473371
76%|██████████████████████████████████████████████████████████▍ | 9100/12000 [35:04<10:49, 4.47it/s]
train loss:0.0023850373869756993
76%|██████████████████████████████████████████████████████████▍ | 9101/12000 [35:04<10:50, 4.46it/s]
train loss:0.0005258542070995649
76%|██████████████████████████████████████████████████████████▍ | 9102/12000 [35:05<10:52, 4.44it/s]
train loss:3.429589280810801e-05
76%|██████████████████████████████████████████████████████████▍ | 9103/12000 [35:05<10:56, 4.41it/s]
train loss:0.0031655472094013416
76%|██████████████████████████████████████████████████████████▍ | 9104/12000 [35:05<10:54, 4.42it/s]
train loss:0.002436352534623318
76%|██████████████████████████████████████████████████████████▍ | 9105/12000 [35:05<10:53, 4.43it/s]
train loss:0.0014646928647759224
76%|██████████████████████████████████████████████████████████▍ | 9106/12000 [35:05<11:02, 4.37it/s]
train loss:0.0004862007273939703
76%|██████████████████████████████████████████████████████████▍ | 9107/12000 [35:06<11:03, 4.36it/s]
train loss:0.0011822868074186622
76%|██████████████████████████████████████████████████████████▍ | 9108/12000 [35:06<10:57, 4.40it/s]
train loss:0.00444418067334004
76%|██████████████████████████████████████████████████████████▍ | 9109/12000 [35:06<10:54, 4.42it/s]
train loss:0.003153212253244103
76%|██████████████████████████████████████████████████████████▍ | 9110/12000 [35:06<10:53, 4.42it/s]
train loss:0.00024667916333851185
76%|██████████████████████████████████████████████████████████▍ | 9111/12000 [35:07<10:58, 4.39it/s]
train loss:0.002712596988719897
76%|██████████████████████████████████████████████████████████▍ | 9112/12000 [35:07<10:54, 4.41it/s]
train loss:0.0004173925909660183
76%|██████████████████████████████████████████████████████████▍ | 9113/12000 [35:07<10:54, 4.41it/s]
train loss:0.000476202927472365
76%|██████████████████████████████████████████████████████████▍ | 9114/12000 [35:07<10:52, 4.42it/s]
train loss:0.0005398187244443714
76%|██████████████████████████████████████████████████████████▍ | 9115/12000 [35:08<10:52, 4.42it/s]
train loss:0.0006034583073303467
76%|██████████████████████████████████████████████████████████▍ | 9116/12000 [35:08<10:43, 4.48it/s]
train loss:0.000787334713504656
76%|██████████████████████████████████████████████████████████▌ | 9117/12000 [35:08<10:44, 4.48it/s]
train loss:0.006439612131515814
76%|██████████████████████████████████████████████████████████▌ | 9118/12000 [35:08<10:46, 4.46it/s]
train loss:0.00024492472545060284
76%|██████████████████████████████████████████████████████████▌ | 9119/12000 [35:08<10:46, 4.46it/s]
train loss:0.002221005564350803
76%|██████████████████████████████████████████████████████████▌ | 9120/12000 [35:09<10:43, 4.48it/s]
train loss:0.012825780348088945
76%|██████████████████████████████████████████████████████████▌ | 9121/12000 [35:09<10:41, 4.49it/s]
train loss:5.080813034573278e-05
76%|██████████████████████████████████████████████████████████▌ | 9122/12000 [35:09<10:43, 4.47it/s]
train loss:0.0020900142258305503
76%|██████████████████████████████████████████████████████████▌ | 9123/12000 [35:09<10:44, 4.46it/s]
train loss:0.00018171027991746062
76%|██████████████████████████████████████████████████████████▌ | 9124/12000 [35:10<10:46, 4.45it/s]
train loss:0.0001324304437577151
76%|██████████████████████████████████████████████████████████▌ | 9125/12000 [35:10<10:39, 4.50it/s]
train loss:0.0016092581736190264
76%|██████████████████████████████████████████████████████████▌ | 9126/12000 [35:10<10:41, 4.48it/s]
train loss:0.00041350739163837117
76%|██████████████████████████████████████████████████████████▌ | 9127/12000 [35:10<10:42, 4.47it/s]
train loss:0.0012914467830792903
76%|██████████████████████████████████████████████████████████▌ | 9128/12000 [35:10<10:43, 4.46it/s]
train loss:0.0003910309288583908
76%|██████████████████████████████████████████████████████████▌ | 9129/12000 [35:11<10:39, 4.49it/s]
train loss:0.002082063396733456
76%|██████████████████████████████████████████████████████████▌ | 9130/12000 [35:11<10:39, 4.49it/s]
train loss:0.00020695372843974956
76%|██████████████████████████████████████████████████████████▌ | 9131/12000 [35:11<10:42, 4.46it/s]
train loss:0.0020879626180231588
76%|██████████████████████████████████████████████████████████▌ | 9132/12000 [35:11<10:45, 4.45it/s]
train loss:0.018449710049900033
76%|██████████████████████████████████████████████████████████▌ | 9133/12000 [35:12<10:46, 4.43it/s]
train loss:0.0021826045662639753
76%|██████████████████████████████████████████████████████████▌ | 9134/12000 [35:12<10:39, 4.48it/s]
train loss:0.00395696075199002
76%|██████████████████████████████████████████████████████████▌ | 9135/12000 [35:12<10:40, 4.47it/s]
train loss:0.006410080269260029
76%|██████████████████████████████████████████████████████████▌ | 9136/12000 [35:12<10:41, 4.46it/s]
train loss:0.0007012191839486728
76%|██████████████████████████████████████████████████████████▋ | 9137/12000 [35:12<10:42, 4.46it/s]
train loss:0.0017682531385971362
76%|██████████████████████████████████████████████████████████▋ | 9138/12000 [35:13<10:35, 4.50it/s]
train loss:0.017569478733801814
76%|██████████████████████████████████████████████████████████▋ | 9139/12000 [35:13<10:35, 4.50it/s]
train loss:0.0005973154650017069
76%|██████████████████████████████████████████████████████████▋ | 9140/12000 [35:13<10:49, 4.40it/s]
train loss:0.0012728785514112835
76%|██████████████████████████████████████████████████████████▋ | 9141/12000 [35:13<10:49, 4.40it/s]
train loss:0.0010705885562566815
76%|██████████████████████████████████████████████████████████▋ | 9142/12000 [35:14<10:59, 4.33it/s]
train loss:0.001089385646226486
76%|██████████████████████████████████████████████████████████▋ | 9143/12000 [35:14<10:45, 4.42it/s]
train loss:9.047486439176074e-05
76%|██████████████████████████████████████████████████████████▋ | 9144/12000 [35:14<10:44, 4.43it/s]
train loss:0.0020864086379244694
76%|██████████████████████████████████████████████████████████▋ | 9145/12000 [35:14<10:43, 4.44it/s]
train loss:0.036725961844452065
76%|██████████████████████████████████████████████████████████▋ | 9146/12000 [35:14<10:42, 4.44it/s]
train loss:0.0003581856279134824
76%|██████████████████████████████████████████████████████████▋ | 9147/12000 [35:15<10:49, 4.39it/s]
train loss:0.0003837230281595087
76%|██████████████████████████████████████████████████████████▋ | 9148/12000 [35:15<10:45, 4.42it/s]
train loss:0.002303553701443538
76%|██████████████████████████████████████████████████████████▋ | 9149/12000 [35:15<10:43, 4.43it/s]
train loss:0.00019177530650537163
76%|██████████████████████████████████████████████████████████▋ | 9150/12000 [35:15<10:41, 4.44it/s]
train loss:0.0024061285568583173
76%|██████████████████████████████████████████████████████████▋ | 9151/12000 [35:16<10:45, 4.41it/s]
train loss:0.004036415080358619
76%|██████████████████████████████████████████████████████████▋ | 9152/12000 [35:16<10:45, 4.42it/s]
train loss:0.008588941612615288
76%|██████████████████████████████████████████████████████████▋ | 9153/12000 [35:16<10:46, 4.41it/s]
train loss:0.005268610132787328
76%|██████████████████████████████████████████████████████████▋ | 9154/12000 [35:16<10:44, 4.42it/s]
train loss:0.00042349780655454874
76%|██████████████████████████████████████████████████████████▋ | 9155/12000 [35:17<10:44, 4.41it/s]
train loss:0.0012249298463608773
76%|██████████████████████████████████████████████████████████▊ | 9156/12000 [35:17<10:45, 4.40it/s]
train loss:0.0005012841062393405
76%|██████████████████████████████████████████████████████████▊ | 9157/12000 [35:17<10:38, 4.45it/s]
train loss:0.0017495412121744502
76%|██████████████████████████████████████████████████████████▊ | 9158/12000 [35:17<10:39, 4.44it/s]
train loss:0.0004138992380937343
76%|██████████████████████████████████████████████████████████▊ | 9159/12000 [35:17<10:38, 4.45it/s]
train loss:0.003077623045299238
76%|██████████████████████████████████████████████████████████▊ | 9160/12000 [35:18<10:35, 4.47it/s]
train loss:0.0004516723531647603
76%|██████████████████████████████████████████████████████████▊ | 9161/12000 [35:18<10:35, 4.47it/s]
train loss:0.0029485716237168387
76%|██████████████████████████████████████████████████████████▊ | 9162/12000 [35:18<10:36, 4.46it/s]
train loss:0.0001721286171330382
76%|██████████████████████████████████████████████████████████▊ | 9163/12000 [35:18<10:36, 4.46it/s]
train loss:6.63393184357281e-05
76%|██████████████████████████████████████████████████████████▊ | 9164/12000 [35:19<10:41, 4.42it/s]
train loss:0.00022009961719498156
76%|██████████████████████████████████████████████████████████▊ | 9165/12000 [35:19<10:33, 4.47it/s]
train loss:0.00039471944467896555
76%|██████████████████████████████████████████████████████████▊ | 9166/12000 [35:19<10:35, 4.46it/s]
train loss:0.00022951276071012577
76%|██████████████████████████████████████████████████████████▊ | 9167/12000 [35:19<10:35, 4.46it/s]
train loss:0.00015653234169272844
76%|██████████████████████████████████████████████████████████▊ | 9168/12000 [35:19<10:34, 4.46it/s]
train loss:0.004999612947045974
76%|██████████████████████████████████████████████████████████▊ | 9169/12000 [35:20<10:30, 4.49it/s]
train loss:0.0007808441281044767
76%|██████████████████████████████████████████████████████████▊ | 9170/12000 [35:20<10:31, 4.48it/s]
train loss:0.0003691280325467153
76%|██████████████████████████████████████████████████████████▊ | 9171/12000 [35:20<10:32, 4.47it/s]
train loss:0.002111655264774582
76%|██████████████████████████████████████████████████████████▊ | 9172/12000 [35:20<10:32, 4.47it/s]
train loss:0.0008073503221956268
76%|██████████████████████████████████████████████████████████▊ | 9173/12000 [35:21<10:33, 4.46it/s]
train loss:0.00349827032504923
76%|██████████████████████████████████████████████████████████▊ | 9174/12000 [35:21<10:28, 4.50it/s]
train loss:0.005161905194057179
76%|██████████████████████████████████████████████████████████▊ | 9175/12000 [35:21<10:31, 4.48it/s]
train loss:0.0007469068182998831
76%|██████████████████████████████████████████████████████████▉ | 9176/12000 [35:21<10:31, 4.47it/s]
train loss:0.0006467610747212028
76%|██████████████████████████████████████████████████████████▉ | 9177/12000 [35:21<10:32, 4.46it/s]
train loss:0.00024563806802398115
76%|██████████████████████████████████████████████████████████▉ | 9178/12000 [35:22<10:25, 4.51it/s]
train loss:0.007039317585536511
76%|██████████████████████████████████████████████████████████▉ | 9179/12000 [35:22<10:28, 4.49it/s]
train loss:0.005019988163843241
76%|██████████████████████████████████████████████████████████▉ | 9180/12000 [35:22<10:29, 4.48it/s]
train loss:0.0013139433893627644
77%|██████████████████████████████████████████████████████████▉ | 9181/12000 [35:22<10:30, 4.47it/s]
train loss:0.005860395253794965
77%|██████████████████████████████████████████████████████████▉ | 9182/12000 [35:23<10:32, 4.46it/s]
train loss:0.028769799080925328
77%|██████████████████████████████████████████████████████████▉ | 9183/12000 [35:23<10:27, 4.49it/s]
train loss:0.00023215332352031953
77%|██████████████████████████████████████████████████████████▉ | 9184/12000 [35:23<10:29, 4.48it/s]
train loss:0.0008529269336135659
77%|██████████████████████████████████████████████████████████▉ | 9185/12000 [35:23<10:29, 4.47it/s]
train loss:0.0032251811043989805
77%|██████████████████████████████████████████████████████████▉ | 9186/12000 [35:23<10:31, 4.46it/s]
train loss:0.0005680924459928924
77%|██████████████████████████████████████████████████████████▉ | 9187/12000 [35:24<10:25, 4.50it/s]
train loss:0.0015804294931530626
77%|██████████████████████████████████████████████████████████▉ | 9188/12000 [35:24<10:27, 4.48it/s]
train loss:0.0001863902946014721
77%|██████████████████████████████████████████████████████████▉ | 9189/12000 [35:24<10:28, 4.47it/s]
train loss:0.004499283894349535
77%|██████████████████████████████████████████████████████████▉ | 9190/12000 [35:24<10:29, 4.47it/s]
train loss:0.00142234668074532
77%|██████████████████████████████████████████████████████████▉ | 9191/12000 [35:25<10:29, 4.46it/s]
train loss:0.00021085624303870544
77%|██████████████████████████████████████████████████████████▉ | 9192/12000 [35:25<11:04, 4.23it/s]
train loss:0.0009386093927152618
77%|██████████████████████████████████████████████████████████▉ | 9193/12000 [35:25<11:00, 4.25it/s]
train loss:0.0018388835659615243
77%|██████████████████████████████████████████████████████████▉ | 9194/12000 [35:25<10:50, 4.31it/s]
train loss:0.0035597552684960817
77%|███████████████████████████████████████████████████████████ | 9195/12000 [35:26<10:44, 4.35it/s]
train loss:0.0015047922044670364
77%|███████████████████████████████████████████████████████████ | 9196/12000 [35:26<10:32, 4.43it/s]
train loss:0.008390128183262822
77%|███████████████████████████████████████████████████████████ | 9197/12000 [35:26<10:32, 4.43it/s]
train loss:0.004953432809303768
77%|███████████████████████████████████████████████████████████ | 9198/12000 [35:26<10:33, 4.43it/s]
train loss:0.0016744828352546334
77%|███████████████████████████████████████████████████████████ | 9199/12000 [35:26<10:33, 4.42it/s]
train loss:0.0011560677377501383
77%|███████████████████████████████████████████████████████████ | 9200/12000 [35:27<10:28, 4.45it/s]
train loss:0.0002952564179935144
77%|███████████████████████████████████████████████████████████ | 9201/12000 [35:27<10:28, 4.46it/s]
train loss:0.0013169445562175792
77%|███████████████████████████████████████████████████████████ | 9202/12000 [35:27<10:29, 4.45it/s]
train loss:0.0009563809684581414
77%|███████████████████████████████████████████████████████████ | 9203/12000 [35:27<10:28, 4.45it/s]
train loss:0.04510602111492615
77%|███████████████████████████████████████████████████████████ | 9204/12000 [35:28<10:29, 4.44it/s]
train loss:0.004127889867855439
77%|███████████████████████████████████████████████████████████ | 9205/12000 [35:28<10:21, 4.50it/s]
train loss:0.0007352848159945645
77%|███████████████████████████████████████████████████████████ | 9206/12000 [35:28<10:24, 4.48it/s]
train loss:0.00037520996738834087
77%|███████████████████████████████████████████████████████████ | 9207/12000 [35:28<10:47, 4.32it/s]
train loss:0.028752419990801553
77%|███████████████████████████████████████████████████████████ | 9208/12000 [35:28<10:43, 4.34it/s]
train loss:0.0019060827101533978
77%|███████████████████████████████████████████████████████████ | 9209/12000 [35:29<10:31, 4.42it/s]
train loss:0.0019776677618633647
77%|███████████████████████████████████████████████████████████ | 9210/12000 [35:29<10:29, 4.43it/s]
train loss:0.001248186598210405
77%|███████████████████████████████████████████████████████████ | 9211/12000 [35:29<10:29, 4.43it/s]
train loss:0.00657511315360654
77%|███████████████████████████████████████████████████████████ | 9212/12000 [35:29<10:30, 4.42it/s]
train loss:0.00641922865190732
77%|███████████████████████████████████████████████████████████ | 9213/12000 [35:30<10:29, 4.43it/s]
train loss:0.000477051620152682
77%|███████████████████████████████████████████████████████████ | 9214/12000 [35:30<10:20, 4.49it/s]
train loss:0.002604037421431086
77%|███████████████████████████████████████████████████████████▏ | 9215/12000 [35:30<10:20, 4.49it/s]
train loss:0.004089836212405159
77%|███████████████████████████████████████████████████████████▏ | 9216/12000 [35:30<10:22, 4.47it/s]
train loss:0.0006641712329250141
77%|███████████████████████████████████████████████████████████▏ | 9217/12000 [35:30<10:23, 4.46it/s]
train loss:0.0012741540911502755
77%|███████████████████████████████████████████████████████████▏ | 9218/12000 [35:31<10:18, 4.50it/s]
train loss:0.00232853434071932
77%|███████████████████████████████████████████████████████████▏ | 9219/12000 [35:31<10:19, 4.49it/s]
train loss:0.04611317185332138
77%|███████████████████████████████████████████████████████████▏ | 9220/12000 [35:31<10:24, 4.45it/s]
train loss:0.0010556639434474515
77%|███████████████████████████████████████████████████████████▏ | 9221/12000 [35:31<10:25, 4.44it/s]
train loss:0.0011363009338490283
77%|███████████████████████████████████████████████████████████▏ | 9222/12000 [35:32<10:23, 4.45it/s]
train loss:0.023339867223122635
77%|███████████████████████████████████████████████████████████▏ | 9223/12000 [35:32<10:17, 4.50it/s]
train loss:0.0023371262149367677
77%|███████████████████████████████████████████████████████████▏ | 9224/12000 [35:32<10:20, 4.48it/s]
train loss:0.0034282755223245132
77%|███████████████████████████████████████████████████████████▏ | 9225/12000 [35:32<11:00, 4.20it/s]
train loss:0.0017399932828680443
77%|███████████████████████████████████████████████████████████▏ | 9227/12000 [35:33<10:44, 4.30it/s]
train loss:0.0011576343387377096 train loss:0.0009697084936680445
77%|███████████████████████████████████████████████████████████▏ | 9228/12000 [35:33<10:35, 4.36it/s]
train loss:0.0007055338833424854
77%|███████████████████████████████████████████████████████████▏ | 9229/12000 [35:33<10:30, 4.39it/s]
train loss:0.000401906515219177
77%|███████████████████████████████████████████████████████████▏ | 9230/12000 [35:33<10:27, 4.41it/s]
train loss:0.004615267378414889
77%|███████████████████████████████████████████████████████████▏ | 9231/12000 [35:34<10:22, 4.45it/s]
train loss:0.0025323398040531606
77%|███████████████████████████████████████████████████████████▏ | 9232/12000 [35:34<10:31, 4.38it/s]
train loss:0.005361474068605547
77%|███████████████████████████████████████████████████████████▏ | 9233/12000 [35:34<10:28, 4.40it/s]
train loss:0.0008105816381962479
77%|███████████████████████████████████████████████████████████▎ | 9234/12000 [35:34<10:25, 4.42it/s]
train loss:0.0008469207171058014
77%|███████████████████████████████████████████████████████████▎ | 9235/12000 [35:35<10:31, 4.38it/s]
train loss:0.0001228852678313125
77%|███████████████████████████████████████████████████████████▎ | 9236/12000 [35:35<10:43, 4.30it/s]
train loss:0.003117669702906119
77%|███████████████████████████████████████████████████████████▎ | 9237/12000 [35:35<10:35, 4.35it/s]
train loss:0.00020893241850707632
77%|███████████████████████████████████████████████████████████▎ | 9238/12000 [35:35<10:31, 4.37it/s]
train loss:0.0001343115495853048
77%|███████████████████████████████████████████████████████████▎ | 9239/12000 [35:35<10:28, 4.39it/s]
train loss:0.0011055616841881349
77%|███████████████████████████████████████████████████████████▎ | 9240/12000 [35:36<10:18, 4.46it/s]
train loss:0.0007500847712239524
77%|███████████████████████████████████████████████████████████▎ | 9241/12000 [35:36<10:18, 4.46it/s]
train loss:0.0028346127334962475
77%|███████████████████████████████████████████████████████████▎ | 9242/12000 [35:36<10:17, 4.46it/s]
train loss:0.009036249317840986
77%|███████████████████████████████████████████████████████████▎ | 9243/12000 [35:36<10:18, 4.46it/s]
train loss:0.0005015654044601334
77%|███████████████████████████████████████████████████████████▎ | 9244/12000 [35:37<10:17, 4.46it/s]
train loss:0.00020150918660794616
77%|███████████████████████████████████████████████████████████▎ | 9245/12000 [35:37<10:13, 4.49it/s]
train loss:0.001975567185461778
77%|███████████████████████████████████████████████████████████▎ | 9246/12000 [35:37<10:15, 4.47it/s]
train loss:0.002365658510403176
77%|███████████████████████████████████████████████████████████▎ | 9247/12000 [35:37<10:17, 4.46it/s]
train loss:0.006884533807902322
77%|███████████████████████████████████████████████████████████▎ | 9248/12000 [35:37<10:17, 4.45it/s]
train loss:0.0033290635679169216
77%|███████████████████████████████████████████████████████████▎ | 9249/12000 [35:38<10:11, 4.50it/s]
train loss:0.0016479054124375397
77%|███████████████████████████████████████████████████████████▎ | 9250/12000 [35:38<10:12, 4.49it/s]
train loss:0.002516369789346396
77%|███████████████████████████████████████████████████████████▎ | 9251/12000 [35:38<10:13, 4.48it/s]
train loss:0.001351504957055723
77%|███████████████████████████████████████████████████████████▎ | 9252/12000 [35:38<10:14, 4.47it/s]
train loss:0.0009562190405986458
77%|███████████████████████████████████████████████████████████▎ | 9253/12000 [35:39<10:14, 4.47it/s]
train loss:0.0012952587363770577
77%|███████████████████████████████████████████████████████████▍ | 9254/12000 [35:39<10:12, 4.48it/s]
train loss:0.007583439525895849
77%|███████████████████████████████████████████████████████████▍ | 9255/12000 [35:39<10:13, 4.47it/s]
train loss:0.00027086780377029153
77%|███████████████████████████████████████████████████████████▍ | 9256/12000 [35:39<10:14, 4.46it/s]
train loss:0.0005071737616246726
77%|███████████████████████████████████████████████████████████▍ | 9257/12000 [35:39<10:15, 4.46it/s]
train loss:0.003709820562464829
77%|███████████████████████████████████████████████████████████▍ | 9258/12000 [35:40<10:06, 4.52it/s]
train loss:0.0014790514972524275
77%|███████████████████████████████████████████████████████████▍ | 9259/12000 [35:40<10:09, 4.50it/s]
train loss:0.0019885705661987735
77%|███████████████████████████████████████████████████████████▍ | 9260/12000 [35:40<10:12, 4.47it/s]
train loss:0.0014783754278666172
77%|███████████████████████████████████████████████████████████▍ | 9261/12000 [35:40<10:13, 4.47it/s]
train loss:0.0008360996516698284
77%|███████████████████████████████████████████████████████████▍ | 9262/12000 [35:41<10:09, 4.49it/s]
train loss:0.0007879577796702521
77%|███████████████████████████████████████████████████████████▍ | 9263/12000 [35:41<10:10, 4.48it/s]
train loss:0.0017476932946215685
77%|███████████████████████████████████████████████████████████▍ | 9264/12000 [35:41<10:12, 4.47it/s]
train loss:0.0002777297694404091
77%|███████████████████████████████████████████████████████████▍ | 9265/12000 [35:41<10:19, 4.41it/s]
train loss:0.00016571019917945652
77%|███████████████████████████████████████████████████████████▍ | 9266/12000 [35:42<10:19, 4.41it/s]
train loss:0.0004177002568649835
77%|███████████████████████████████████████████████████████████▍ | 9267/12000 [35:42<10:13, 4.46it/s]
train loss:0.00038473297221626685
77%|███████████████████████████████████████████████████████████▍ | 9268/12000 [35:42<10:14, 4.45it/s]
train loss:0.00013493998900980815
77%|███████████████████████████████████████████████████████████▍ | 9269/12000 [35:42<10:14, 4.45it/s]
train loss:0.004058339143708039
77%|███████████████████████████████████████████████████████████▍ | 9270/12000 [35:42<10:14, 4.44it/s]
train loss:0.002768532619693332
77%|███████████████████████████████████████████████████████████▍ | 9271/12000 [35:43<10:12, 4.46it/s]
train loss:0.007084173921446832
77%|███████████████████████████████████████████████████████████▍ | 9272/12000 [35:43<10:11, 4.46it/s]
train loss:0.00036103994722372313
77%|███████████████████████████████████████████████████████████▌ | 9273/12000 [35:43<10:10, 4.46it/s]
train loss:0.0020769313434489483
77%|███████████████████████████████████████████████████████████▌ | 9274/12000 [35:43<10:11, 4.46it/s]
train loss:0.013423738746280065
77%|███████████████████████████████████████████████████████████▌ | 9275/12000 [35:44<10:13, 4.44it/s]
train loss:0.002300739688707114
77%|███████████████████████████████████████████████████████████▌ | 9276/12000 [35:44<10:06, 4.49it/s]
train loss:0.000403333105935075
77%|███████████████████████████████████████████████████████████▌ | 9277/12000 [35:44<10:09, 4.47it/s]
train loss:0.008090169434148363
77%|███████████████████████████████████████████████████████████▌ | 9278/12000 [35:44<10:10, 4.46it/s]
train loss:0.00023603247366602438
77%|███████████████████████████████████████████████████████████▌ | 9279/12000 [35:44<10:10, 4.46it/s]
train loss:0.0045171384062023924
77%|███████████████████████████████████████████████████████████▌ | 9280/12000 [35:45<10:04, 4.50it/s]
train loss:0.0013542765742815572
77%|███████████████████████████████████████████████████████████▌ | 9281/12000 [35:45<10:39, 4.25it/s]
train loss:0.004936737848944226
77%|███████████████████████████████████████████████████████████▌ | 9282/12000 [35:45<10:31, 4.31it/s]
train loss:0.009487566100508917
77%|███████████████████████████████████████████████████████████▌ | 9283/12000 [35:45<10:26, 4.34it/s]
train loss:0.001437159170380221
77%|███████████████████████████████████████████████████████████▌ | 9284/12000 [35:46<10:20, 4.38it/s]
train loss:0.007807961791617156
77%|███████████████████████████████████████████████████████████▌ | 9285/12000 [35:46<10:13, 4.43it/s]
train loss:0.0025324412318640916
77%|███████████████████████████████████████████████████████████▌ | 9286/12000 [35:46<10:11, 4.44it/s]
train loss:0.011460454607973418
77%|███████████████████████████████████████████████████████████▌ | 9287/12000 [35:46<10:14, 4.42it/s]
train loss:0.0031811376855672624
77%|███████████████████████████████████████████████████████████▌ | 9288/12000 [35:46<10:12, 4.42it/s]
train loss:0.0014271819382029032
77%|███████████████████████████████████████████████████████████▌ | 9289/12000 [35:47<10:04, 4.48it/s]
train loss:0.0011202254515897813
77%|███████████████████████████████████████████████████████████▌ | 9290/12000 [35:47<10:06, 4.47it/s]
train loss:0.0009468514930596225
77%|███████████████████████████████████████████████████████████▌ | 9291/12000 [35:47<10:06, 4.47it/s]
train loss:0.0024785765466694806
77%|███████████████████████████████████████████████████████████▌ | 9292/12000 [35:47<10:06, 4.47it/s]
train loss:0.004612586489355132
77%|███████████████████████████████████████████████████████████▋ | 9293/12000 [35:48<10:06, 4.46it/s]
train loss:0.0016796802488937594
77%|███████████████████████████████████████████████████████████▋ | 9294/12000 [35:48<10:07, 4.46it/s]
train loss:0.005418475754608213
77%|███████████████████████████████████████████████████████████▋ | 9295/12000 [35:48<10:08, 4.45it/s]
train loss:0.002358288058759625
77%|███████████████████████████████████████████████████████████▋ | 9296/12000 [35:48<10:12, 4.42it/s]
train loss:0.0007105675186382691
77%|███████████████████████████████████████████████████████████▋ | 9297/12000 [35:48<10:14, 4.40it/s]
train loss:0.007926226141825534
77%|███████████████████████████████████████████████████████████▋ | 9298/12000 [35:49<10:04, 4.47it/s]
train loss:0.0011783917329215446
77%|███████████████████████████████████████████████████████████▋ | 9299/12000 [35:49<10:05, 4.46it/s]
train loss:0.00030337221815013445
78%|███████████████████████████████████████████████████████████▋ | 9300/12000 [35:49<10:04, 4.47it/s]
train loss:0.0048741906617572476
78%|███████████████████████████████████████████████████████████▋ | 9301/12000 [35:49<10:04, 4.47it/s]
train loss:0.003878739823590931
78%|███████████████████████████████████████████████████████████▋ | 9302/12000 [35:50<10:01, 4.48it/s]
train loss:0.0011119981407465272
78%|███████████████████████████████████████████████████████████▋ | 9303/12000 [35:50<09:59, 4.50it/s]
train loss:0.0019006625965530834
78%|███████████████████████████████████████████████████████████▋ | 9304/12000 [35:50<10:03, 4.47it/s]
train loss:0.008627464424749307
78%|███████████████████████████████████████████████████████████▋ | 9305/12000 [35:50<10:03, 4.47it/s]
train loss:0.0010729056232322883
78%|███████████████████████████████████████████████████████████▋ | 9306/12000 [35:51<10:07, 4.44it/s]
train loss:0.0004571472894278969
78%|███████████████████████████████████████████████████████████▋ | 9307/12000 [35:51<09:59, 4.49it/s]
train loss:0.00041647250900213935
78%|███████████████████████████████████████████████████████████▋ | 9308/12000 [35:51<10:02, 4.47it/s]
train loss:0.00025541853661571355
78%|███████████████████████████████████████████████████████████▋ | 9309/12000 [35:51<10:02, 4.47it/s]
train loss:0.0006118158183120089
78%|███████████████████████████████████████████████████████████▋ | 9310/12000 [35:51<10:02, 4.47it/s]
train loss:0.00046754954945614296
78%|███████████████████████████████████████████████████████████▋ | 9311/12000 [35:52<09:59, 4.48it/s]
train loss:0.004745591913250206
78%|███████████████████████████████████████████████████████████▊ | 9312/12000 [35:52<09:58, 4.49it/s]
train loss:0.0007690406755150666
78%|███████████████████████████████████████████████████████████▊ | 9313/12000 [35:52<09:59, 4.48it/s]
train loss:0.06991536311874202
78%|███████████████████████████████████████████████████████████▊ | 9314/12000 [35:52<10:00, 4.48it/s]
train loss:0.0007121643778641301
78%|███████████████████████████████████████████████████████████▊ | 9315/12000 [35:53<10:01, 4.46it/s]
train loss:0.002864963748822929
78%|███████████████████████████████████████████████████████████▊ | 9316/12000 [35:53<09:55, 4.51it/s]
train loss:0.0014758622919140416
78%|███████████████████████████████████████████████████████████▊ | 9317/12000 [35:53<10:00, 4.47it/s]
train loss:0.0012040807278041006
78%|███████████████████████████████████████████████████████████▊ | 9318/12000 [35:53<10:05, 4.43it/s]
train loss:0.0017763345062406617
78%|███████████████████████████████████████████████████████████▊ | 9319/12000 [35:53<10:08, 4.40it/s]
train loss:0.0005280504885719222
78%|███████████████████████████████████████████████████████████▊ | 9320/12000 [35:54<10:02, 4.45it/s]
train loss:0.0032366653514763594
78%|███████████████████████████████████████████████████████████▊ | 9321/12000 [35:54<10:32, 4.23it/s]
train loss:0.0018652099176187584
78%|███████████████████████████████████████████████████████████▊ | 9322/12000 [35:54<10:26, 4.28it/s]
train loss:0.0007108563383611083
78%|███████████████████████████████████████████████████████████▊ | 9323/12000 [35:54<10:20, 4.32it/s]
train loss:0.00230545663192295
78%|███████████████████████████████████████████████████████████▊ | 9324/12000 [35:55<10:18, 4.32it/s]
train loss:0.00038994533534130084
78%|███████████████████████████████████████████████████████████▊ | 9325/12000 [35:55<10:12, 4.37it/s]
train loss:0.0004968438921138028
78%|███████████████████████████████████████████████████████████▊ | 9326/12000 [35:55<10:10, 4.38it/s]
train loss:0.0017943966735597407
78%|███████████████████████████████████████████████████████████▊ | 9327/12000 [35:55<10:08, 4.39it/s]
train loss:0.00023901239207359593
78%|███████████████████████████████████████████████████████████▊ | 9328/12000 [35:55<10:08, 4.39it/s]
train loss:0.003138439637627511
78%|███████████████████████████████████████████████████████████▊ | 9329/12000 [35:56<09:57, 4.47it/s]
train loss:0.003020053369412723
78%|███████████████████████████████████████████████████████████▊ | 9330/12000 [35:56<09:58, 4.46it/s]
train loss:0.000830984376895144
78%|███████████████████████████████████████████████████████████▊ | 9331/12000 [35:56<10:25, 4.27it/s]
train loss:0.003507418336611539
78%|███████████████████████████████████████████████████████████▉ | 9332/12000 [35:56<10:18, 4.31it/s]
train loss:0.005065670303488753
78%|███████████████████████████████████████████████████████████▉ | 9333/12000 [35:57<10:12, 4.36it/s]
train loss:0.00042483335255865973
78%|███████████████████████████████████████████████████████████▉ | 9334/12000 [35:57<10:09, 4.38it/s]
train loss:0.004070781223256986
78%|███████████████████████████████████████████████████████████▉ | 9335/12000 [35:57<10:09, 4.37it/s]
train loss:0.002922684645487222
78%|███████████████████████████████████████████████████████████▉ | 9336/12000 [35:57<10:07, 4.39it/s]
train loss:0.002960633275255581
78%|███████████████████████████████████████████████████████████▉ | 9337/12000 [35:58<10:06, 4.39it/s]
train loss:0.0005069623990936939
78%|███████████████████████████████████████████████████████████▉ | 9338/12000 [35:58<09:55, 4.47it/s]
train loss:6.225262066013649e-05
78%|███████████████████████████████████████████████████████████▉ | 9339/12000 [35:58<09:55, 4.47it/s]
train loss:0.009770455225478425
78%|███████████████████████████████████████████████████████████▉ | 9340/12000 [35:58<09:56, 4.46it/s]
train loss:0.00026631797542543337
78%|███████████████████████████████████████████████████████████▉ | 9341/12000 [35:58<09:58, 4.45it/s]
train loss:0.0015852389269244663
78%|███████████████████████████████████████████████████████████▉ | 9342/12000 [35:59<09:51, 4.49it/s]
train loss:0.011889379667207585
78%|███████████████████████████████████████████████████████████▉ | 9343/12000 [35:59<10:04, 4.39it/s]
train loss:0.0024549887750838265
78%|███████████████████████████████████████████████████████████▉ | 9344/12000 [35:59<10:02, 4.41it/s]
train loss:0.0013155990599449082
78%|███████████████████████████████████████████████████████████▉ | 9345/12000 [35:59<09:59, 4.43it/s]
train loss:0.00871159102389661
78%|███████████████████████████████████████████████████████████▉ | 9346/12000 [36:00<09:58, 4.43it/s]
train loss:0.010164261818960074
78%|███████████████████████████████████████████████████████████▉ | 9347/12000 [36:00<09:51, 4.49it/s]
train loss:0.00010664074561070971
78%|███████████████████████████████████████████████████████████▉ | 9348/12000 [36:00<09:51, 4.48it/s]
train loss:0.00033114755311067614
78%|███████████████████████████████████████████████████████████▉ | 9349/12000 [36:00<09:51, 4.48it/s]
train loss:0.002157456319221486
78%|███████████████████████████████████████████████████████████▉ | 9350/12000 [36:00<10:07, 4.36it/s]
train loss:0.0032473305480796174
78%|████████████████████████████████████████████████████████████ | 9351/12000 [36:01<10:07, 4.36it/s]
train loss:0.0006642758603039539
78%|████████████████████████████████████████████████████████████ | 9352/12000 [36:01<10:09, 4.35it/s]
train loss:5.877346147193136e-05
78%|████████████████████████████████████████████████████████████ | 9353/12000 [36:01<10:09, 4.35it/s]
train loss:0.002145624711188203
78%|████████████████████████████████████████████████████████████ | 9354/12000 [36:01<10:05, 4.37it/s]
train loss:0.0007169579179341643
78%|████████████████████████████████████████████████████████████ | 9355/12000 [36:02<10:00, 4.40it/s]
train loss:0.00024057630404606206
78%|████████████████████████████████████████████████████████████ | 9356/12000 [36:02<09:58, 4.41it/s]
train loss:0.0020364437050808862
78%|████████████████████████████████████████████████████████████ | 9357/12000 [36:02<09:58, 4.42it/s]
train loss:0.0008904730086122615
78%|████████████████████████████████████████████████████████████ | 9358/12000 [36:02<09:58, 4.41it/s]
train loss:0.0004820595803136711
78%|████████████████████████████████████████████████████████████ | 9359/12000 [36:03<10:05, 4.36it/s]
train loss:0.00035790179003058017
78%|████████████████████████████████████████████████████████████ | 9360/12000 [36:03<10:26, 4.22it/s]
train loss:0.0001926356595275918
78%|████████████████████████████████████████████████████████████ | 9361/12000 [36:03<10:17, 4.27it/s]
train loss:0.006866763873353646
78%|████████████████████████████████████████████████████████████ | 9362/12000 [36:03<10:10, 4.32it/s]
train loss:0.002455686087249093
78%|████████████████████████████████████████████████████████████ | 9363/12000 [36:03<10:05, 4.36it/s]
train loss:0.0013348433702650283
78%|████████████████████████████████████████████████████████████ | 9364/12000 [36:04<09:59, 4.39it/s]
train loss:0.00026458746536138397
78%|████████████████████████████████████████████████████████████ | 9365/12000 [36:04<10:00, 4.39it/s]
train loss:0.0015947753269164517
78%|████████████████████████████████████████████████████████████ | 9366/12000 [36:04<10:00, 4.39it/s]
train loss:0.0007485767945058523
78%|████████████████████████████████████████████████████████████ | 9367/12000 [36:04<10:01, 4.38it/s]
train loss:0.0007679524627925115
78%|████████████████████████████████████████████████████████████ | 9368/12000 [36:05<10:00, 4.38it/s]
train loss:0.0006444410348620484
78%|████████████████████████████████████████████████████████████ | 9369/12000 [36:05<09:53, 4.43it/s]
train loss:0.0006590779589842864
78%|████████████████████████████████████████████████████████████ | 9370/12000 [36:05<09:57, 4.40it/s]
train loss:0.0003633273839747886
78%|████████████████████████████████████████████████████████████▏ | 9371/12000 [36:05<09:57, 4.40it/s]
train loss:0.00023253381965524422
78%|████████████████████████████████████████████████████████████▏ | 9372/12000 [36:06<09:58, 4.39it/s]
train loss:0.0004654471212148998
78%|████████████████████████████████████████████████████████████▏ | 9373/12000 [36:06<09:51, 4.44it/s]
train loss:0.0006985607730416127
78%|████████████████████████████████████████████████████████████▏ | 9374/12000 [36:06<09:53, 4.43it/s]
train loss:0.0002496762666966708
78%|████████████████████████████████████████████████████████████▏ | 9375/12000 [36:06<09:54, 4.41it/s]
train loss:0.0018338131405228621
78%|████████████████████████████████████████████████████████████▏ | 9376/12000 [36:06<09:53, 4.42it/s]
train loss:0.003141090427166755
78%|████████████████████████████████████████████████████████████▏ | 9377/12000 [36:07<09:48, 4.46it/s]
train loss:0.004292645216812769
78%|████████████████████████████████████████████████████████████▏ | 9378/12000 [36:07<09:47, 4.46it/s]
train loss:0.0013852628856791294
78%|████████████████████████████████████████████████████████████▏ | 9379/12000 [36:07<09:49, 4.45it/s]
train loss:0.002006810952089611
78%|████████████████████████████████████████████████████████████▏ | 9380/12000 [36:07<09:50, 4.44it/s]
train loss:0.0008345829725649263
78%|████████████████████████████████████████████████████████████▏ | 9381/12000 [36:08<09:54, 4.41it/s]
train loss:0.0019693773048082438
78%|████████████████████████████████████████████████████████████▏ | 9382/12000 [36:08<09:46, 4.46it/s]
train loss:0.0022241378732946377
78%|████████████████████████████████████████████████████████████▏ | 9383/12000 [36:08<09:49, 4.44it/s]
train loss:0.0019071570607896316
78%|████████████████████████████████████████████████████████████▏ | 9384/12000 [36:08<09:50, 4.43it/s]
train loss:0.0003054211500091872
78%|████████████████████████████████████████████████████████████▏ | 9385/12000 [36:08<09:51, 4.42it/s]
train loss:0.002579635539543302
78%|████████████████████████████████████████████████████████████▏ | 9386/12000 [36:09<09:44, 4.47it/s]
train loss:0.0024433341120439324
78%|████████████████████████████████████████████████████████████▏ | 9387/12000 [36:09<09:45, 4.46it/s]
train loss:0.00319490047407196
78%|████████████████████████████████████████████████████████████▏ | 9388/12000 [36:09<09:47, 4.45it/s]
train loss:0.0005694671450731897
78%|████████████████████████████████████████████████████████████▏ | 9389/12000 [36:09<09:47, 4.44it/s]
train loss:0.0001176781896823709
78%|████████████████████████████████████████████████████████████▎ | 9390/12000 [36:10<09:48, 4.44it/s]
train loss:0.0006141795821158039
78%|████████████████████████████████████████████████████████████▎ | 9391/12000 [36:10<09:42, 4.48it/s]
train loss:0.0023378478362388586
78%|████████████████████████████████████████████████████████████▎ | 9392/12000 [36:10<09:45, 4.46it/s]
train loss:0.0006045319222100289
78%|████████████████████████████████████████████████████████████▎ | 9393/12000 [36:10<09:47, 4.44it/s]
train loss:0.00035783570472522466
78%|████████████████████████████████████████████████████████████▎ | 9394/12000 [36:10<09:48, 4.43it/s]
train loss:4.438508624811037e-05
78%|████████████████████████████████████████████████████████████▎ | 9395/12000 [36:11<09:42, 4.47it/s]
train loss:0.0007820579621512735
78%|████████████████████████████████████████████████████████████▎ | 9396/12000 [36:11<09:45, 4.45it/s]
train loss:0.0008959329954735352
78%|████████████████████████████████████████████████████████████▎ | 9397/12000 [36:11<09:49, 4.41it/s]
train loss:0.0010676728831882174
78%|████████████████████████████████████████████████████████████▎ | 9398/12000 [36:11<09:49, 4.42it/s]
train loss:0.0012771159373247435
78%|████████████████████████████████████████████████████████████▎ | 9399/12000 [36:12<09:47, 4.43it/s]
train loss:0.0010229091254086188
78%|████████████████████████████████████████████████████████████▎ | 9400/12000 [36:12<09:51, 4.39it/s]
train loss:0.0011732886541215815
78%|████████████████████████████████████████████████████████████▎ | 9401/12000 [36:12<09:49, 4.41it/s]
train loss:0.0022343332040083725
78%|████████████████████████████████████████████████████████████▎ | 9402/12000 [36:12<09:49, 4.41it/s]
train loss:0.002238481218524857
78%|████████████████████████████████████████████████████████████▎ | 9403/12000 [36:12<09:52, 4.38it/s]
train loss:0.003888001700296493
78%|████████████████████████████████████████████████████████████▎ | 9404/12000 [36:13<09:42, 4.46it/s]
train loss:0.00011065516756949406
78%|████████████████████████████████████████████████████████████▎ | 9405/12000 [36:13<09:44, 4.44it/s]
train loss:0.003394327845731311
78%|████████████████████████████████████████████████████████████▎ | 9406/12000 [36:13<10:18, 4.20it/s]
train loss:0.0019008632299020928
78%|████████████████████████████████████████████████████████████▎ | 9407/12000 [36:14<11:02, 3.92it/s]
train loss:0.0010786769962825805
78%|████████████████████████████████████████████████████████████▎ | 9408/12000 [36:14<11:23, 3.79it/s]
train loss:0.0005220369294165829
78%|████████████████████████████████████████████████████████████▎ | 9409/12000 [36:14<11:42, 3.69it/s]
train loss:0.0002427312789415295
78%|████████████████████████████████████████████████████████████▍ | 9410/12000 [36:14<11:55, 3.62it/s]
train loss:0.0003838609621123807
78%|████████████████████████████████████████████████████████████▍ | 9411/12000 [36:15<12:02, 3.58it/s]
train loss:0.00011698720820071891
78%|████████████████████████████████████████████████████████████▍ | 9412/12000 [36:15<12:07, 3.56it/s]
train loss:0.001220714606943294
78%|████████████████████████████████████████████████████████████▍ | 9413/12000 [36:15<12:16, 3.51it/s]
train loss:0.0001773475238111069
78%|████████████████████████████████████████████████████████████▍ | 9414/12000 [36:16<12:18, 3.50it/s]
train loss:7.052038170433589e-05
78%|████████████████████████████████████████████████████████████▍ | 9415/12000 [36:16<12:16, 3.51it/s]
train loss:0.002503145118848753
78%|████████████████████████████████████████████████████████████▍ | 9416/12000 [36:16<12:18, 3.50it/s]
train loss:0.0014654558175258717
78%|████████████████████████████████████████████████████████████▍ | 9417/12000 [36:16<12:20, 3.49it/s]
train loss:0.00010594864440659831
78%|████████████████████████████████████████████████████████████▍ | 9418/12000 [36:17<12:16, 3.51it/s]
train loss:4.443109703755194e-05
78%|████████████████████████████████████████████████████████████▍ | 9419/12000 [36:17<12:17, 3.50it/s]
train loss:0.0031048666275967497
78%|████████████████████████████████████████████████████████████▍ | 9420/12000 [36:17<12:20, 3.48it/s]
train loss:0.0006771138448949198
79%|████████████████████████████████████████████████████████████▍ | 9421/12000 [36:18<12:23, 3.47it/s]
train loss:0.00025793905109660747
79%|████████████████████████████████████████████████████████████▍ | 9422/12000 [36:18<12:22, 3.47it/s]
train loss:0.00038617466330298646
79%|████████████████████████████████████████████████████████████▍ | 9423/12000 [36:18<12:22, 3.47it/s]
train loss:0.0006353179452088627
79%|████████████████████████████████████████████████████████████▍ | 9424/12000 [36:18<12:23, 3.47it/s]
train loss:0.0017572674142013142
79%|████████████████████████████████████████████████████████████▍ | 9425/12000 [36:19<12:19, 3.48it/s]
train loss:0.002360753710145201
79%|████████████████████████████████████████████████████████████▍ | 9426/12000 [36:19<12:18, 3.49it/s]
train loss:0.0006669929120600607
79%|████████████████████████████████████████████████████████████▍ | 9427/12000 [36:19<12:17, 3.49it/s]
train loss:0.0005656144630562997
79%|████████████████████████████████████████████████████████████▍ | 9428/12000 [36:20<12:20, 3.47it/s]
train loss:0.00012465705448775572
79%|████████████████████████████████████████████████████████████▌ | 9429/12000 [36:20<12:18, 3.48it/s]
train loss:0.0028219767191192467
79%|████████████████████████████████████████████████████████████▌ | 9430/12000 [36:20<12:23, 3.46it/s]
train loss:0.0008102967200694519
79%|████████████████████████████████████████████████████████████▌ | 9431/12000 [36:20<12:25, 3.45it/s]
train loss:8.839215995146173e-05
79%|████████████████████████████████████████████████████████████▌ | 9432/12000 [36:21<11:41, 3.66it/s]
train loss:0.0009401143239377064
79%|████████████████████████████████████████████████████████████▌ | 9433/12000 [36:21<11:01, 3.88it/s]
train loss:0.004025942477384015
79%|████████████████████████████████████████████████████████████▌ | 9434/12000 [36:21<10:37, 4.02it/s]
train loss:0.0010393387512814523
79%|████████████████████████████████████████████████████████████▌ | 9435/12000 [36:21<10:20, 4.13it/s]
train loss:0.0006220998592811433
79%|████████████████████████████████████████████████████████████▌ | 9436/12000 [36:22<10:09, 4.21it/s]
train loss:0.001209600098964588
79%|████████████████████████████████████████████████████████████▌ | 9437/12000 [36:22<09:55, 4.30it/s]
train loss:0.012546967177875684
79%|████████████████████████████████████████████████████████████▌ | 9438/12000 [36:22<10:17, 4.15it/s]
train loss:0.0003015819811568793
79%|████████████████████████████████████████████████████████████▌ | 9439/12000 [36:22<10:02, 4.25it/s]
train loss:0.0004350527760545926
79%|████████████████████████████████████████████████████████████▌ | 9440/12000 [36:22<09:52, 4.32it/s]
train loss:0.0033785488437335165
79%|████████████████████████████████████████████████████████████▌ | 9441/12000 [36:23<09:39, 4.41it/s]
train loss:0.0008070393115185218
79%|████████████████████████████████████████████████████████████▌ | 9442/12000 [36:23<09:38, 4.42it/s]
train loss:5.564024851973123e-05
79%|████████████████████████████████████████████████████████████▌ | 9443/12000 [36:23<09:35, 4.44it/s]
train loss:0.0002581118097091379
79%|████████████████████████████████████████████████████████████▌ | 9444/12000 [36:23<09:35, 4.44it/s]
train loss:0.0034915637754686026
79%|████████████████████████████████████████████████████████████▌ | 9445/12000 [36:24<09:32, 4.47it/s]
train loss:0.0012622720699110087
79%|████████████████████████████████████████████████████████████▌ | 9446/12000 [36:24<09:30, 4.48it/s]
train loss:0.002111047689907579
79%|████████████████████████████████████████████████████████████▌ | 9447/12000 [36:24<09:30, 4.47it/s]
train loss:0.002184642730728933
79%|████████████████████████████████████████████████████████████▌ | 9448/12000 [36:24<09:30, 4.47it/s]
train loss:0.001278306834465886
79%|████████████████████████████████████████████████████████████▋ | 9450/12000 [36:25<09:22, 4.53it/s]
train loss:0.0012944925373299713 train loss:0.0015851946080392546
79%|████████████████████████████████████████████████████████████▋ | 9451/12000 [36:25<09:25, 4.50it/s]
train loss:0.005805655070349457
79%|████████████████████████████████████████████████████████████▋ | 9452/12000 [36:25<09:27, 4.49it/s]
train loss:0.0013789227004026691
79%|████████████████████████████████████████████████████████████▋ | 9453/12000 [36:25<09:28, 4.48it/s]
train loss:0.001079236787215366
79%|████████████████████████████████████████████████████████████▋ | 9454/12000 [36:26<09:27, 4.49it/s]
train loss:0.0013600796929498843
79%|████████████████████████████████████████████████████████████▋ | 9455/12000 [36:26<09:28, 4.48it/s]
train loss:0.0010625347869065785
79%|████████████████████████████████████████████████████████████▋ | 9456/12000 [36:26<09:29, 4.47it/s]
train loss:0.004753437103966902
79%|████████████████████████████████████████████████████████████▋ | 9457/12000 [36:26<09:29, 4.47it/s]
train loss:0.001052099460428086
79%|████████████████████████████████████████████████████████████▋ | 9458/12000 [36:26<09:30, 4.46it/s]
train loss:0.0023685004667223643
79%|████████████████████████████████████████████████████████████▋ | 9459/12000 [36:27<09:22, 4.52it/s]
train loss:0.001300777394082834
79%|████████████████████████████████████████████████████████████▋ | 9460/12000 [36:27<09:25, 4.49it/s]
train loss:0.0003031051751126711
79%|████████████████████████████████████████████████████████████▋ | 9461/12000 [36:27<09:25, 4.49it/s]
train loss:0.00021623129862806653
79%|████████████████████████████████████████████████████████████▋ | 9462/12000 [36:27<09:26, 4.48it/s]
train loss:0.00039506875015576904
79%|████████████████████████████████████████████████████████████▋ | 9463/12000 [36:28<09:25, 4.49it/s]
train loss:0.002417239635467921
79%|████████████████████████████████████████████████████████████▋ | 9464/12000 [36:28<09:24, 4.49it/s]
train loss:0.0011473118033561037
79%|████████████████████████████████████████████████████████████▋ | 9465/12000 [36:28<09:36, 4.40it/s]
train loss:0.001713801414066862
79%|████████████████████████████████████████████████████████████▋ | 9466/12000 [36:28<09:34, 4.41it/s]
train loss:0.004008341785244499
79%|████████████████████████████████████████████████████████████▋ | 9467/12000 [36:29<09:32, 4.42it/s]
train loss:0.00691029120729971
79%|████████████████████████████████████████████████████████████▊ | 9468/12000 [36:29<09:26, 4.47it/s]
train loss:0.0011308990249002924
79%|████████████████████████████████████████████████████████████▊ | 9469/12000 [36:29<09:26, 4.47it/s]
train loss:0.0020561009318325984
79%|████████████████████████████████████████████████████████████▊ | 9470/12000 [36:29<09:24, 4.48it/s]
train loss:0.00166106767280605
79%|████████████████████████████████████████████████████████████▊ | 9471/12000 [36:29<09:25, 4.47it/s]
train loss:0.0030791632075342435
79%|████████████████████████████████████████████████████████████▊ | 9472/12000 [36:30<09:22, 4.49it/s]
train loss:0.00040408695866665323
79%|████████████████████████████████████████████████████████████▊ | 9473/12000 [36:30<09:21, 4.50it/s]
train loss:0.0003984069243151208
79%|████████████████████████████████████████████████████████████▊ | 9474/12000 [36:30<09:22, 4.49it/s]
train loss:0.0006460779412774894
79%|████████████████████████████████████████████████████████████▊ | 9475/12000 [36:30<09:22, 4.49it/s]
train loss:0.0004711389871629127
79%|████████████████████████████████████████████████████████████▊ | 9476/12000 [36:31<09:23, 4.48it/s]
train loss:0.0004621397871672461
79%|████████████████████████████████████████████████████████████▊ | 9477/12000 [36:31<09:17, 4.53it/s]
train loss:0.0005898161390527158
79%|████████████████████████████████████████████████████████████▊ | 9478/12000 [36:31<09:18, 4.51it/s]
train loss:0.0002873386919603981
79%|████████████████████████████████████████████████████████████▊ | 9479/12000 [36:31<09:20, 4.50it/s]
train loss:0.002606393637744933
79%|████████████████████████████████████████████████████████████▊ | 9480/12000 [36:31<09:21, 4.49it/s]
train loss:0.001443200069457062
79%|████████████████████████████████████████████████████████████▊ | 9481/12000 [36:32<09:18, 4.51it/s]
train loss:0.0024519296644262742
79%|████████████████████████████████████████████████████████████▊ | 9482/12000 [36:32<09:18, 4.51it/s]
train loss:0.0008172988005865174
79%|████████████████████████████████████████████████████████████▊ | 9483/12000 [36:32<09:19, 4.49it/s]
train loss:0.0009832436403854757
79%|████████████████████████████████████████████████████████████▊ | 9484/12000 [36:32<09:20, 4.49it/s]
train loss:0.005467173105089236
79%|████████████████████████████████████████████████████████████▊ | 9485/12000 [36:33<09:21, 4.48it/s]
train loss:0.0010428774884928562
79%|████████████████████████████████████████████████████████████▊ | 9486/12000 [36:33<09:16, 4.52it/s]
train loss:0.001288447235626441
79%|████████████████████████████████████████████████████████████▊ | 9487/12000 [36:33<09:17, 4.51it/s]
train loss:0.000319865151893866
79%|████████████████████████████████████████████████████████████▉ | 9488/12000 [36:33<09:18, 4.50it/s]
train loss:0.001138412469987126
79%|████████████████████████████████████████████████████████████▉ | 9489/12000 [36:33<09:18, 4.50it/s]
train loss:0.0011683667377135013
79%|████████████████████████████████████████████████████████████▉ | 9490/12000 [36:34<09:16, 4.51it/s]
train loss:0.00040991181675398676
79%|████████████████████████████████████████████████████████████▉ | 9491/12000 [36:34<09:18, 4.50it/s]
train loss:0.0004176929442368309
79%|████████████████████████████████████████████████████████████▉ | 9492/12000 [36:34<09:18, 4.49it/s]
train loss:0.0023195922876545674
79%|████████████████████████████████████████████████████████████▉ | 9493/12000 [36:34<09:17, 4.50it/s]
train loss:0.0003596058409568937
79%|████████████████████████████████████████████████████████████▉ | 9494/12000 [36:35<09:17, 4.49it/s]
train loss:0.0001430747959570388
79%|████████████████████████████████████████████████████████████▉ | 9495/12000 [36:35<09:12, 4.53it/s]
train loss:0.0022627341621298787
79%|████████████████████████████████████████████████████████████▉ | 9496/12000 [36:35<09:16, 4.50it/s]
train loss:0.0021761509730796446
79%|████████████████████████████████████████████████████████████▉ | 9497/12000 [36:35<09:17, 4.49it/s]
train loss:0.0047061351540160275
79%|████████████████████████████████████████████████████████████▉ | 9498/12000 [36:35<09:17, 4.49it/s]
train loss:0.000994231312557005
79%|████████████████████████████████████████████████████████████▉ | 9499/12000 [36:36<09:15, 4.50it/s]
train loss:0.0006976278560787502
79%|████████████████████████████████████████████████████████████▉ | 9500/12000 [36:36<09:16, 4.49it/s]
train loss:0.00014067788666325323
79%|████████████████████████████████████████████████████████████▉ | 9501/12000 [36:36<09:18, 4.47it/s]
train loss:0.0012538730927464888
79%|████████████████████████████████████████████████████████████▉ | 9502/12000 [36:36<09:19, 4.46it/s]
train loss:0.0006637772489833724
79%|████████████████████████████████████████████████████████████▉ | 9503/12000 [36:37<09:23, 4.43it/s]
train loss:0.000774662840677934
79%|████████████████████████████████████████████████████████████▉ | 9504/12000 [36:37<09:21, 4.45it/s]
train loss:0.0013003938303796638
79%|████████████████████████████████████████████████████████████▉ | 9505/12000 [36:37<09:20, 4.45it/s]
train loss:0.0005331041704181458
79%|████████████████████████████████████████████████████████████▉ | 9506/12000 [36:37<09:19, 4.46it/s]
train loss:0.001248504957225779
79%|█████████████████████████████████████████████████████████████ | 9507/12000 [36:37<09:19, 4.46it/s]
train loss:0.0033577583549624784
79%|█████████████████████████████████████████████████████████████ | 9508/12000 [36:38<09:16, 4.48it/s]
train loss:0.0007493302977452755
79%|█████████████████████████████████████████████████████████████ | 9509/12000 [36:38<09:19, 4.45it/s]
train loss:0.0003148606732514138
79%|█████████████████████████████████████████████████████████████ | 9510/12000 [36:38<09:19, 4.45it/s]
train loss:0.0020193163481163913
79%|█████████████████████████████████████████████████████████████ | 9511/12000 [36:38<09:20, 4.44it/s]
train loss:0.0020408302200935844
79%|█████████████████████████████████████████████████████████████ | 9512/12000 [36:39<09:21, 4.43it/s]
train loss:0.0005213444996896803
79%|█████████████████████████████████████████████████████████████ | 9513/12000 [36:39<09:54, 4.18it/s]
train loss:0.0007494715985823157
79%|█████████████████████████████████████████████████████████████ | 9514/12000 [36:39<10:21, 4.00it/s]
train loss:0.0004900901387819615
79%|█████████████████████████████████████████████████████████████ | 9515/12000 [36:39<10:27, 3.96it/s]
train loss:0.0015200981891535243
79%|█████████████████████████████████████████████████████████████ | 9516/12000 [36:40<10:10, 4.07it/s]
train loss:0.0022697306401454885
79%|█████████████████████████████████████████████████████████████ | 9517/12000 [36:40<09:48, 4.22it/s]
train loss:0.0007863608363946882
79%|█████████████████████████████████████████████████████████████ | 9518/12000 [36:40<09:40, 4.28it/s]
train loss:0.007436088128422947
79%|█████████████████████████████████████████████████████████████ | 9519/12000 [36:40<09:33, 4.33it/s]
train loss:0.0004111948017284035
79%|█████████████████████████████████████████████████████████████ | 9520/12000 [36:40<09:42, 4.26it/s]
train loss:0.004794276109209888
79%|█████████████████████████████████████████████████████████████ | 9521/12000 [36:41<09:31, 4.34it/s]
train loss:0.00030122177551271097
79%|█████████████████████████████████████████████████████████████ | 9522/12000 [36:41<09:25, 4.38it/s]
train loss:0.000544344720945864
79%|█████████████████████████████████████████████████████████████ | 9523/12000 [36:41<09:22, 4.41it/s]
train loss:0.00101179981005804
79%|█████████████████████████████████████████████████████████████ | 9524/12000 [36:41<09:19, 4.43it/s]
train loss:0.0005604887143077137
79%|█████████████████████████████████████████████████████████████ | 9525/12000 [36:42<09:13, 4.47it/s]
train loss:0.00115624101665637
79%|█████████████████████████████████████████████████████████████▏ | 9526/12000 [36:42<09:13, 4.47it/s]
train loss:0.0007618923022371049
79%|█████████████████████████████████████████████████████████████▏ | 9527/12000 [36:42<09:52, 4.17it/s]
train loss:0.0020793892966819633
79%|█████████████████████████████████████████████████████████████▏ | 9528/12000 [36:42<10:18, 4.00it/s]
train loss:0.001846001869968062
79%|█████████████████████████████████████████████████████████████▏ | 9529/12000 [36:43<10:20, 3.98it/s]
train loss:0.0003118947392960397
79%|█████████████████████████████████████████████████████████████▏ | 9530/12000 [36:43<09:59, 4.12it/s]
train loss:0.005792799777821403
79%|█████████████████████████████████████████████████████████████▏ | 9531/12000 [36:43<09:46, 4.21it/s]
train loss:0.0021508452666955617
79%|█████████████████████████████████████████████████████████████▏ | 9532/12000 [36:43<09:36, 4.28it/s]
train loss:0.0001265884524943244
79%|█████████████████████████████████████████████████████████████▏ | 9533/12000 [36:44<09:30, 4.33it/s]
train loss:0.010038635191862289
79%|█████████████████████████████████████████████████████████████▏ | 9534/12000 [36:44<09:19, 4.41it/s]
train loss:0.001336523218628002
79%|█████████████████████████████████████████████████████████████▏ | 9535/12000 [36:44<09:17, 4.42it/s]
train loss:0.00046572684117536685
79%|█████████████████████████████████████████████████████████████▏ | 9536/12000 [36:44<09:17, 4.42it/s]
train loss:0.0024099531696447777
79%|█████████████████████████████████████████████████████████████▏ | 9537/12000 [36:44<09:31, 4.31it/s]
train loss:0.0030800616928806594
79%|█████████████████████████████████████████████████████████████▏ | 9538/12000 [36:45<09:20, 4.39it/s]
train loss:0.00052811603573322
79%|█████████████████████████████████████████████████████████████▏ | 9539/12000 [36:45<09:22, 4.38it/s]
train loss:0.0004513368304050524
80%|█████████████████████████████████████████████████████████████▏ | 9540/12000 [36:45<09:20, 4.39it/s]
train loss:0.0003810970273724936
80%|█████████████████████████████████████████████████████████████▏ | 9541/12000 [36:45<09:17, 4.41it/s]
train loss:0.00035614935994650305
80%|█████████████████████████████████████████████████████████████▏ | 9542/12000 [36:46<09:17, 4.41it/s]
train loss:0.0035187724672013747
80%|█████████████████████████████████████████████████████████████▏ | 9543/12000 [36:46<09:09, 4.47it/s]
train loss:0.0016534483609445766
80%|█████████████████████████████████████████████████████████████▏ | 9544/12000 [36:46<09:09, 4.47it/s]
train loss:0.00022554157174768118
80%|█████████████████████████████████████████████████████████████▏ | 9545/12000 [36:46<09:13, 4.44it/s]
train loss:0.0017504934270389625
80%|█████████████████████████████████████████████████████████████▎ | 9546/12000 [36:46<09:14, 4.43it/s]
train loss:0.00015508101278239033
80%|█████████████████████████████████████████████████████████████▎ | 9547/12000 [36:47<09:07, 4.48it/s]
train loss:8.007188564218155e-05
80%|█████████████████████████████████████████████████████████████▎ | 9548/12000 [36:47<09:12, 4.44it/s]
train loss:0.0031888860298466396
80%|█████████████████████████████████████████████████████████████▎ | 9549/12000 [36:47<09:11, 4.45it/s]
train loss:0.0005341613335332674
80%|█████████████████████████████████████████████████████████████▎ | 9550/12000 [36:47<09:09, 4.46it/s]
train loss:0.01125756815155072
80%|█████████████████████████████████████████████████████████████▎ | 9551/12000 [36:48<09:07, 4.47it/s]
train loss:0.002291500371130818
80%|█████████████████████████████████████████████████████████████▎ | 9552/12000 [36:48<09:04, 4.49it/s]
train loss:0.0014342983813281293
80%|█████████████████████████████████████████████████████████████▎ | 9553/12000 [36:48<09:06, 4.48it/s]
train loss:9.631395268336316e-05
80%|█████████████████████████████████████████████████████████████▎ | 9554/12000 [36:48<09:09, 4.45it/s]
train loss:0.0022524415347344156
80%|█████████████████████████████████████████████████████████████▎ | 9555/12000 [36:48<09:10, 4.44it/s]
train loss:0.004488469558979064
80%|█████████████████████████████████████████████████████████████▎ | 9556/12000 [36:49<09:06, 4.47it/s]
train loss:0.0012914941948845304
80%|█████████████████████████████████████████████████████████████▎ | 9557/12000 [36:49<09:07, 4.46it/s]
train loss:0.0012212294516864973
80%|█████████████████████████████████████████████████████████████▎ | 9558/12000 [36:49<09:08, 4.45it/s]
train loss:0.003981164870041279
80%|█████████████████████████████████████████████████████████████▎ | 9559/12000 [36:49<09:09, 4.44it/s]
train loss:0.0020659305865321333
80%|█████████████████████████████████████████████████████████████▎ | 9560/12000 [36:50<09:08, 4.45it/s]
train loss:0.019312067350144332
80%|█████████████████████████████████████████████████████████████▎ | 9561/12000 [36:50<09:07, 4.45it/s]
train loss:0.0041755411791018614
80%|█████████████████████████████████████████████████████████████▎ | 9562/12000 [36:50<09:08, 4.44it/s]
train loss:0.004579235503425002
80%|█████████████████████████████████████████████████████████████▎ | 9563/12000 [36:50<09:08, 4.44it/s]
train loss:0.001645583745567548
80%|█████████████████████████████████████████████████████████████▎ | 9564/12000 [36:50<09:14, 4.39it/s]
train loss:0.003017296661141498
80%|█████████████████████████████████████████████████████████████▍ | 9565/12000 [36:51<09:05, 4.46it/s]
train loss:0.000972626676348194
80%|█████████████████████████████████████████████████████████████▍ | 9566/12000 [36:51<09:29, 4.27it/s]
train loss:0.0019808325180030394
80%|█████████████████████████████████████████████████████████████▍ | 9567/12000 [36:51<09:22, 4.32it/s]
train loss:0.0006012431244066013
80%|█████████████████████████████████████████████████████████████▍ | 9568/12000 [36:51<09:18, 4.36it/s]
train loss:0.0005530761463076367
80%|█████████████████████████████████████████████████████████████▍ | 9569/12000 [36:52<09:09, 4.42it/s]
train loss:0.00449937464010341
80%|█████████████████████████████████████████████████████████████▍ | 9570/12000 [36:52<09:12, 4.40it/s]
train loss:0.0014034180729627832
80%|█████████████████████████████████████████████████████████████▍ | 9571/12000 [36:52<09:48, 4.13it/s]
train loss:0.002102571458819499
80%|█████████████████████████████████████████████████████████████▍ | 9572/12000 [36:52<10:19, 3.92it/s]
train loss:0.00026591453179969696
80%|█████████████████████████████████████████████████████████████▍ | 9573/12000 [36:53<09:54, 4.08it/s]
train loss:0.00019652999596702023
80%|█████████████████████████████████████████████████████████████▍ | 9574/12000 [36:53<09:34, 4.22it/s]
train loss:0.001456071792460787
80%|█████████████████████████████████████████████████████████████▍ | 9575/12000 [36:53<09:25, 4.28it/s]
train loss:0.003151428171822859
80%|█████████████████████████████████████████████████████████████▍ | 9576/12000 [36:53<09:20, 4.33it/s]
train loss:0.00046600397699250235
80%|█████████████████████████████████████████████████████████████▍ | 9577/12000 [36:54<09:14, 4.37it/s]
train loss:0.000498445067084794
80%|█████████████████████████████████████████████████████████████▍ | 9578/12000 [36:54<09:06, 4.43it/s]
train loss:0.00010773343867693009
80%|█████████████████████████████████████████████████████████████▍ | 9579/12000 [36:54<09:05, 4.44it/s]
train loss:0.0067598722105740635
80%|█████████████████████████████████████████████████████████████▍ | 9580/12000 [36:54<09:06, 4.43it/s]
train loss:0.00016505900672800623
80%|█████████████████████████████████████████████████████████████▍ | 9581/12000 [36:54<09:05, 4.44it/s]
train loss:0.0026341454827739225
80%|█████████████████████████████████████████████████████████████▍ | 9582/12000 [36:55<09:00, 4.48it/s]
train loss:0.00032599260929808046
80%|█████████████████████████████████████████████████████████████▍ | 9583/12000 [36:55<09:01, 4.46it/s]
train loss:0.003666258269851381
80%|█████████████████████████████████████████████████████████████▍ | 9584/12000 [36:55<09:02, 4.45it/s]
train loss:0.0019945994362056216
80%|█████████████████████████████████████████████████████████████▌ | 9585/12000 [36:55<09:02, 4.45it/s]
train loss:9.773707718268628e-05
80%|█████████████████████████████████████████████████████████████▌ | 9586/12000 [36:56<09:02, 4.45it/s]
train loss:0.0007933711388524241
80%|█████████████████████████████████████████████████████████████▌ | 9587/12000 [36:56<08:56, 4.50it/s]
train loss:0.0037219023514908885
80%|█████████████████████████████████████████████████████████████▌ | 9588/12000 [36:56<09:04, 4.43it/s]
train loss:0.0002326990246355687
80%|█████████████████████████████████████████████████████████████▌ | 9589/12000 [36:56<09:09, 4.38it/s]
train loss:0.0011126223943138363
80%|█████████████████████████████████████████████████████████████▌ | 9590/12000 [36:56<09:11, 4.37it/s]
train loss:0.04038008270185331
80%|█████████████████████████████████████████████████████████████▌ | 9591/12000 [36:57<09:06, 4.41it/s]
train loss:8.308064549956826e-05
80%|█████████████████████████████████████████████████████████████▌ | 9592/12000 [36:57<09:07, 4.40it/s]
train loss:0.00022009983000857792
80%|█████████████████████████████████████████████████████████████▌ | 9593/12000 [36:57<09:37, 4.17it/s]
train loss:0.0041255247163398965
80%|█████████████████████████████████████████████████████████████▌ | 9594/12000 [36:57<09:44, 4.12it/s]
train loss:0.004670770415493483
80%|█████████████████████████████████████████████████████████████▌ | 9595/12000 [36:58<09:26, 4.25it/s]
train loss:0.0025016311522713273
80%|█████████████████████████████████████████████████████████████▌ | 9596/12000 [36:58<09:17, 4.31it/s]
train loss:0.00030618196891259543
80%|█████████████████████████████████████████████████████████████▌ | 9597/12000 [36:58<09:13, 4.34it/s]
train loss:0.002304807004605885
80%|█████████████████████████████████████████████████████████████▌ | 9598/12000 [36:58<09:09, 4.37it/s]
train loss:9.293112174632009e-05
80%|█████████████████████████████████████████████████████████████▌ | 9599/12000 [36:59<09:07, 4.39it/s]
train loss:0.001290955340220911
80%|█████████████████████████████████████████████████████████████▌ | 9600/12000 [36:59<08:59, 4.45it/s]
train loss:0.0027954132305953823 train loss:0.0008835814001413583
80%|█████████████████████████████████████████████████████████████▌ | 9601/12000 [37:01<27:38, 1.45it/s]
=== epoch:17, train acc:0.997, test acc:0.987 ===
80%|█████████████████████████████████████████████████████████████▌ | 9602/12000 [37:01<21:55, 1.82it/s]
train loss:0.002815784420759495
80%|█████████████████████████████████████████████████████████████▌ | 9603/12000 [37:01<18:02, 2.21it/s]
train loss:0.0015677850824683014
80%|█████████████████████████████████████████████████████████████▋ | 9604/12000 [37:01<15:19, 2.61it/s]
train loss:0.0028252357916997185
80%|█████████████████████████████████████████████████████████████▋ | 9605/12000 [37:01<13:25, 2.97it/s]
train loss:0.008550879100730845
80%|█████████████████████████████████████████████████████████████▋ | 9606/12000 [37:02<12:00, 3.32it/s]
train loss:0.0027494925026859906
80%|█████████████████████████████████████████████████████████████▋ | 9607/12000 [37:02<11:05, 3.60it/s]
train loss:0.00022140096187868018
80%|█████████████████████████████████████████████████████████████▋ | 9608/12000 [37:02<10:27, 3.81it/s]
train loss:0.0004654795582365146
80%|█████████████████████████████████████████████████████████████▋ | 9609/12000 [37:02<10:00, 3.98it/s]
train loss:0.0022497729520936645
80%|█████████████████████████████████████████████████████████████▋ | 9610/12000 [37:03<09:43, 4.10it/s]
train loss:0.0003318793906051281
80%|█████████████████████████████████████████████████████████████▋ | 9611/12000 [37:03<09:28, 4.21it/s]
train loss:3.046445955097846e-05
80%|█████████████████████████████████████████████████████████████▋ | 9612/12000 [37:03<09:19, 4.27it/s]
train loss:0.00224534179731527
80%|█████████████████████████████████████████████████████████████▋ | 9613/12000 [37:03<09:13, 4.31it/s]
train loss:0.0010967628192331195
80%|█████████████████████████████████████████████████████████████▋ | 9614/12000 [37:03<09:08, 4.35it/s]
train loss:0.002314536541584777
80%|█████████████████████████████████████████████████████████████▋ | 9615/12000 [37:04<09:02, 4.40it/s]
train loss:0.00123574818884603
80%|█████████████████████████████████████████████████████████████▋ | 9616/12000 [37:04<08:53, 4.47it/s]
train loss:0.004415654966030668
80%|█████████████████████████████████████████████████████████████▋ | 9617/12000 [37:04<08:54, 4.46it/s]
train loss:0.0013489676422875085
80%|█████████████████████████████████████████████████████████████▋ | 9618/12000 [37:04<08:56, 4.44it/s]
train loss:0.00021627479454137236
80%|█████████████████████████████████████████████████████████████▋ | 9619/12000 [37:05<08:56, 4.44it/s]
train loss:0.0003364474009376093
80%|█████████████████████████████████████████████████████████████▋ | 9620/12000 [37:05<08:53, 4.46it/s]
train loss:0.0033249373732596134
80%|█████████████████████████████████████████████████████████████▋ | 9621/12000 [37:05<08:54, 4.45it/s]
train loss:0.004674067761066497
80%|█████████████████████████████████████████████████████████████▋ | 9622/12000 [37:05<08:54, 4.45it/s]
train loss:0.0023624575970963954
80%|█████████████████████████████████████████████████████████████▋ | 9623/12000 [37:05<08:55, 4.44it/s]
train loss:0.010093788638564371
80%|█████████████████████████████████████████████████████████████▊ | 9624/12000 [37:06<08:48, 4.49it/s]
train loss:0.00023103071965931135
80%|█████████████████████████████████████████████████████████████▊ | 9625/12000 [37:06<08:50, 4.48it/s]
train loss:0.0019969686138469013
80%|█████████████████████████████████████████████████████████████▊ | 9626/12000 [37:06<08:52, 4.46it/s]
train loss:0.0018013208399460733
80%|█████████████████████████████████████████████████████████████▊ | 9627/12000 [37:06<08:53, 4.45it/s]
train loss:0.0005661071312471148
80%|█████████████████████████████████████████████████████████████▊ | 9628/12000 [37:07<08:49, 4.48it/s]
train loss:0.0007707877114397125
80%|█████████████████████████████████████████████████████████████▊ | 9629/12000 [37:07<08:49, 4.47it/s]
train loss:0.0011003587384814748
80%|█████████████████████████████████████████████████████████████▊ | 9630/12000 [37:07<08:51, 4.46it/s]
train loss:0.001567925856225433
80%|█████████████████████████████████████████████████████████████▊ | 9631/12000 [37:07<08:51, 4.45it/s]
train loss:0.00836532545339037
80%|█████████████████████████████████████████████████████████████▊ | 9632/12000 [37:08<08:52, 4.45it/s]
train loss:0.0013062570942459287
80%|█████████████████████████████████████████████████████████████▊ | 9633/12000 [37:08<08:49, 4.47it/s]
train loss:0.0018930165346675728
80%|█████████████████████████████████████████████████████████████▊ | 9634/12000 [37:08<08:51, 4.45it/s]
train loss:0.0026187300465252534
80%|█████████████████████████████████████████████████████████████▊ | 9635/12000 [37:08<08:53, 4.43it/s]
train loss:0.003356666181867464
80%|█████████████████████████████████████████████████████████████▊ | 9636/12000 [37:08<08:54, 4.43it/s]
train loss:0.030687178019919985
80%|█████████████████████████████████████████████████████████████▊ | 9637/12000 [37:09<08:56, 4.41it/s]
train loss:0.008190163415829468
80%|█████████████████████████████████████████████████████████████▊ | 9638/12000 [37:09<08:56, 4.41it/s]
train loss:0.00015178821808369358
80%|█████████████████████████████████████████████████████████████▊ | 9639/12000 [37:09<09:30, 4.14it/s]
train loss:0.0011872273639459989
80%|█████████████████████████████████████████████████████████████▊ | 9640/12000 [37:09<09:55, 3.96it/s]
train loss:0.003911172836764634
80%|█████████████████████████████████████████████████████████████▊ | 9641/12000 [37:10<10:04, 3.90it/s]
train loss:0.0029488698113908376
80%|█████████████████████████████████████████████████████████████▊ | 9642/12000 [37:10<10:22, 3.79it/s]
train loss:0.0035855709207726926
80%|█████████████████████████████████████████████████████████████▉ | 9643/12000 [37:10<10:15, 3.83it/s]
train loss:0.005258686245753114
80%|█████████████████████████████████████████████████████████████▉ | 9644/12000 [37:10<09:51, 3.98it/s]
train loss:0.004274817155200739
80%|█████████████████████████████████████████████████████████████▉ | 9645/12000 [37:11<09:29, 4.13it/s]
train loss:0.003371090492239171
80%|█████████████████████████████████████████████████████████████▉ | 9646/12000 [37:11<09:51, 3.98it/s]
train loss:0.001018429594712302
80%|█████████████████████████████████████████████████████████████▉ | 9647/12000 [37:11<10:00, 3.92it/s]
train loss:0.00036543394251516094
80%|█████████████████████████████████████████████████████████████▉ | 9648/12000 [37:11<09:42, 4.04it/s]
train loss:0.0013185196002829613
80%|█████████████████████████████████████████████████████████████▉ | 9649/12000 [37:12<09:54, 3.96it/s]
train loss:0.0013054123225585503
80%|█████████████████████████████████████████████████████████████▉ | 9650/12000 [37:12<10:09, 3.85it/s]
train loss:0.0019260639833031696
80%|█████████████████████████████████████████████████████████████▉ | 9651/12000 [37:12<10:15, 3.82it/s]
train loss:0.009017176329342534
80%|█████████████████████████████████████████████████████████████▉ | 9652/12000 [37:13<10:22, 3.77it/s]
train loss:0.0020208570846858365
80%|█████████████████████████████████████████████████████████████▉ | 9653/12000 [37:13<10:12, 3.83it/s]
train loss:0.000495547537219698
80%|█████████████████████████████████████████████████████████████▉ | 9654/12000 [37:13<09:48, 3.98it/s]
train loss:0.0018722301954633108
80%|█████████████████████████████████████████████████████████████▉ | 9655/12000 [37:13<09:31, 4.10it/s]
train loss:0.0008907638460423522
80%|█████████████████████████████████████████████████████████████▉ | 9656/12000 [37:13<09:19, 4.19it/s]
train loss:0.000395873958342411
80%|█████████████████████████████████████████████████████████████▉ | 9657/12000 [37:14<09:05, 4.29it/s]
train loss:0.0007537311238744572
80%|█████████████████████████████████████████████████████████████▉ | 9658/12000 [37:14<09:01, 4.33it/s]
train loss:0.0021101726367795328
80%|█████████████████████████████████████████████████████████████▉ | 9659/12000 [37:14<08:58, 4.35it/s]
train loss:0.006862199122215272
80%|█████████████████████████████████████████████████████████████▉ | 9660/12000 [37:14<08:56, 4.36it/s]
train loss:0.0021549012784422747
81%|█████████████████████████████████████████████████████████████▉ | 9661/12000 [37:15<09:25, 4.13it/s]
train loss:0.0013467504295798498
81%|█████████████████████████████████████████████████████████████▉ | 9662/12000 [37:15<09:20, 4.17it/s]
train loss:0.0010756018592098819
81%|██████████████████████████████████████████████████████████████ | 9663/12000 [37:15<09:11, 4.24it/s]
train loss:0.0002484789063091997
81%|██████████████████████████████████████████████████████████████ | 9664/12000 [37:15<09:37, 4.04it/s]
train loss:0.002777817454489183
81%|██████████████████████████████████████████████████████████████ | 9665/12000 [37:16<09:31, 4.09it/s]
train loss:0.0010168435079839333
81%|██████████████████████████████████████████████████████████████ | 9666/12000 [37:16<09:15, 4.20it/s]
train loss:0.01745154640393344
81%|██████████████████████████████████████████████████████████████ | 9667/12000 [37:16<09:06, 4.27it/s]
train loss:0.0012365261498246108
81%|██████████████████████████████████████████████████████████████ | 9668/12000 [37:16<09:00, 4.31it/s]
train loss:0.0007889813952754624
81%|██████████████████████████████████████████████████████████████ | 9669/12000 [37:17<09:01, 4.30it/s]
train loss:0.0004913328399349254
81%|██████████████████████████████████████████████████████████████ | 9670/12000 [37:17<08:50, 4.39it/s]
train loss:0.0010740946559435489
81%|██████████████████████████████████████████████████████████████ | 9671/12000 [37:17<08:48, 4.40it/s]
train loss:0.014820333330025583
81%|██████████████████████████████████████████████████████████████ | 9672/12000 [37:17<08:48, 4.40it/s]
train loss:0.00047887798036193497
81%|██████████████████████████████████████████████████████████████ | 9673/12000 [37:17<08:48, 4.40it/s]
train loss:0.008383463085831452
81%|██████████████████████████████████████████████████████████████ | 9674/12000 [37:18<09:16, 4.18it/s]
train loss:0.003757316340028566
81%|██████████████████████████████████████████████████████████████ | 9675/12000 [37:18<09:14, 4.19it/s]
train loss:0.007840318196253396
81%|██████████████████████████████████████████████████████████████ | 9676/12000 [37:18<09:06, 4.25it/s]
train loss:0.0021821453218511316
81%|██████████████████████████████████████████████████████████████ | 9677/12000 [37:18<09:03, 4.27it/s]
train loss:0.02151902027981199
81%|██████████████████████████████████████████████████████████████ | 9678/12000 [37:19<08:57, 4.32it/s]
train loss:0.00572120269554423
81%|██████████████████████████████████████████████████████████████ | 9679/12000 [37:19<08:53, 4.35it/s]
train loss:6.870164163777757e-05
81%|██████████████████████████████████████████████████████████████ | 9680/12000 [37:19<09:22, 4.13it/s]
train loss:0.00471966067565344
81%|██████████████████████████████████████████████████████████████ | 9681/12000 [37:19<09:42, 3.98it/s]
train loss:0.003306555511335625
81%|██████████████████████████████████████████████████████████████▏ | 9682/12000 [37:20<09:54, 3.90it/s]
train loss:0.006570195876964565
81%|██████████████████████████████████████████████████████████████▏ | 9683/12000 [37:20<10:03, 3.84it/s]
train loss:0.0003376138403640765
81%|██████████████████████████████████████████████████████████████▏ | 9684/12000 [37:20<10:11, 3.79it/s]
train loss:0.0007346656986246304
81%|██████████████████████████████████████████████████████████████▏ | 9685/12000 [37:20<10:15, 3.76it/s]
train loss:0.007349065874803669
81%|██████████████████████████████████████████████████████████████▏ | 9686/12000 [37:21<10:16, 3.75it/s]
train loss:0.00034448557153016657
81%|██████████████████████████████████████████████████████████████▏ | 9687/12000 [37:21<10:19, 3.73it/s]
train loss:0.0002662426352157609
81%|██████████████████████████████████████████████████████████████▏ | 9688/12000 [37:21<10:22, 3.72it/s]
train loss:0.002984258378621715
81%|██████████████████████████████████████████████████████████████▏ | 9689/12000 [37:21<09:52, 3.90it/s]
train loss:0.0023463881013441865
81%|██████████████████████████████████████████████████████████████▏ | 9690/12000 [37:22<09:24, 4.09it/s]
train loss:0.0010921634902709338
81%|██████████████████████████████████████████████████████████████▏ | 9691/12000 [37:22<09:11, 4.19it/s]
train loss:0.014100899215318137
81%|██████████████████████████████████████████████████████████████▏ | 9692/12000 [37:22<09:02, 4.26it/s]
train loss:0.003060261053591742
81%|██████████████████████████████████████████████████████████████▏ | 9693/12000 [37:22<08:55, 4.30it/s]
train loss:0.0013930428168605175
81%|██████████████████████████████████████████████████████████████▏ | 9694/12000 [37:23<08:50, 4.35it/s]
train loss:0.0009299973412781539
81%|██████████████████████████████████████████████████████████████▏ | 9695/12000 [37:23<08:44, 4.40it/s]
train loss:0.0024087933234827985
81%|██████████████████████████████████████████████████████████████▏ | 9696/12000 [37:23<08:43, 4.40it/s]
train loss:0.000707865860744264
81%|██████████████████████████████████████████████████████████████▏ | 9697/12000 [37:23<08:42, 4.41it/s]
train loss:0.002359345220539757
81%|██████████████████████████████████████████████████████████████▏ | 9698/12000 [37:23<08:44, 4.38it/s]
train loss:0.0007289129887803848
81%|██████████████████████████████████████████████████████████████▏ | 9699/12000 [37:24<08:37, 4.44it/s]
train loss:0.002116829297761653
81%|██████████████████████████████████████████████████████████████▏ | 9700/12000 [37:24<08:38, 4.44it/s]
train loss:0.0010125380866686906
81%|██████████████████████████████████████████████████████████████▏ | 9701/12000 [37:24<08:39, 4.43it/s]
train loss:0.0006730011719316519
81%|██████████████████████████████████████████████████████████████▎ | 9702/12000 [37:24<08:41, 4.41it/s]
train loss:0.007915501562399863
81%|██████████████████████████████████████████████████████████████▎ | 9703/12000 [37:25<08:43, 4.39it/s]
train loss:0.0021058153593881924
81%|██████████████████████████████████████████████████████████████▎ | 9704/12000 [37:25<08:39, 4.42it/s]
train loss:0.0031271795857453653
81%|██████████████████████████████████████████████████████████████▎ | 9705/12000 [37:25<08:41, 4.40it/s]
train loss:0.0002994632179207656
81%|██████████████████████████████████████████████████████████████▎ | 9706/12000 [37:25<08:40, 4.41it/s]
train loss:0.0004703565593752036
81%|██████████████████████████████████████████████████████████████▎ | 9707/12000 [37:26<08:41, 4.40it/s]
train loss:0.00014972505302096917
81%|██████████████████████████████████████████████████████████████▎ | 9708/12000 [37:26<08:41, 4.40it/s]
train loss:0.0008570769490191078
81%|██████████████████████████████████████████████████████████████▎ | 9709/12000 [37:26<08:47, 4.34it/s]
train loss:0.0009391252796340853
81%|██████████████████████████████████████████████████████████████▎ | 9710/12000 [37:26<08:53, 4.29it/s]
train loss:0.002680267600026152
81%|██████████████████████████████████████████████████████████████▎ | 9711/12000 [37:26<08:48, 4.33it/s]
train loss:0.0032201155244428233
81%|██████████████████████████████████████████████████████████████▎ | 9712/12000 [37:27<08:44, 4.36it/s]
train loss:5.1335327286928945e-05
81%|██████████████████████████████████████████████████████████████▎ | 9713/12000 [37:27<08:43, 4.37it/s]
train loss:0.000715438331998223
81%|██████████████████████████████████████████████████████████████▎ | 9714/12000 [37:27<08:45, 4.35it/s]
train loss:0.004401014889668723
81%|██████████████████████████████████████████████████████████████▎ | 9715/12000 [37:27<08:46, 4.34it/s]
train loss:0.0015910023264648107
81%|██████████████████████████████████████████████████████████████▎ | 9716/12000 [37:28<08:43, 4.36it/s]
train loss:0.0015444490522916624
81%|██████████████████████████████████████████████████████████████▎ | 9717/12000 [37:28<08:42, 4.37it/s]
train loss:0.003022170420386155
81%|██████████████████████████████████████████████████████████████▎ | 9718/12000 [37:28<08:45, 4.35it/s]
train loss:0.0023396747467218267
81%|██████████████████████████████████████████████████████████████▎ | 9719/12000 [37:28<08:44, 4.35it/s]
train loss:0.0008177948454128188
81%|██████████████████████████████████████████████████████████████▎ | 9720/12000 [37:29<08:45, 4.34it/s]
train loss:0.002460422014366314
81%|██████████████████████████████████████████████████████████████▍ | 9721/12000 [37:29<08:49, 4.30it/s]
train loss:0.0004606173191147366
81%|██████████████████████████████████████████████████████████████▍ | 9722/12000 [37:29<08:57, 4.24it/s]
train loss:0.00023163849321455307
81%|██████████████████████████████████████████████████████████████▍ | 9723/12000 [37:29<08:51, 4.29it/s]
train loss:0.000987050513904402
81%|██████████████████████████████████████████████████████████████▍ | 9724/12000 [37:29<08:46, 4.32it/s]
train loss:0.0002786707580986833
81%|██████████████████████████████████████████████████████████████▍ | 9725/12000 [37:30<08:37, 4.39it/s]
train loss:0.0004885502501046353
81%|██████████████████████████████████████████████████████████████▍ | 9726/12000 [37:30<08:37, 4.40it/s]
train loss:0.0003560375740310573
81%|██████████████████████████████████████████████████████████████▍ | 9727/12000 [37:30<08:36, 4.40it/s]
train loss:0.00016219283537500896
81%|██████████████████████████████████████████████████████████████▍ | 9728/12000 [37:30<08:35, 4.41it/s]
train loss:0.0005234105242472429
81%|██████████████████████████████████████████████████████████████▍ | 9729/12000 [37:31<08:35, 4.41it/s]
train loss:0.0018937957248892608
81%|██████████████████████████████████████████████████████████████▍ | 9730/12000 [37:31<08:41, 4.36it/s]
train loss:0.006714277399146837
81%|██████████████████████████████████████████████████████████████▍ | 9731/12000 [37:31<08:38, 4.38it/s]
train loss:0.0035048401631592417
81%|██████████████████████████████████████████████████████████████▍ | 9732/12000 [37:31<08:36, 4.39it/s]
train loss:0.0017155834248484946
81%|██████████████████████████████████████████████████████████████▍ | 9733/12000 [37:32<08:37, 4.38it/s]
train loss:0.0009734215664315917
81%|██████████████████████████████████████████████████████████████▍ | 9734/12000 [37:32<08:30, 4.44it/s]
train loss:0.002372110786171824
81%|██████████████████████████████████████████████████████████████▍ | 9735/12000 [37:32<08:31, 4.43it/s]
train loss:0.0015126016874894834
81%|██████████████████████████████████████████████████████████████▍ | 9736/12000 [37:32<08:31, 4.43it/s]
train loss:0.0004738043286469381
81%|██████████████████████████████████████████████████████████████▍ | 9737/12000 [37:32<08:31, 4.43it/s]
train loss:0.0002722886933326818
81%|██████████████████████████████████████████████████████████████▍ | 9738/12000 [37:33<08:28, 4.45it/s]
train loss:0.0002870994814703592
81%|██████████████████████████████████████████████████████████████▍ | 9739/12000 [37:33<08:27, 4.46it/s]
train loss:0.002097993088333374
81%|██████████████████████████████████████████████████████████████▍ | 9740/12000 [37:33<08:29, 4.44it/s]
train loss:0.00021071124267512263
81%|██████████████████████████████████████████████████████████████▌ | 9741/12000 [37:33<08:28, 4.44it/s]
train loss:3.203632276737869e-05
81%|██████████████████████████████████████████████████████████████▌ | 9742/12000 [37:34<08:36, 4.37it/s]
train loss:0.0001806623771681955
81%|██████████████████████████████████████████████████████████████▌ | 9743/12000 [37:34<08:52, 4.24it/s]
train loss:0.0001650631088809342
81%|██████████████████████████████████████████████████████████████▌ | 9744/12000 [37:34<08:45, 4.29it/s]
train loss:0.0021524894899571136
81%|██████████████████████████████████████████████████████████████▌ | 9745/12000 [37:34<08:39, 4.34it/s]
train loss:0.0011282950602611095
81%|██████████████████████████████████████████████████████████████▌ | 9746/12000 [37:34<08:34, 4.38it/s]
train loss:0.001310441647191681
81%|██████████████████████████████████████████████████████████████▌ | 9747/12000 [37:35<08:26, 4.44it/s]
train loss:0.002843201420797168
81%|██████████████████████████████████████████████████████████████▌ | 9748/12000 [37:35<08:27, 4.44it/s]
train loss:0.002775959906071876
81%|██████████████████████████████████████████████████████████████▌ | 9749/12000 [37:35<08:27, 4.43it/s]
train loss:0.0035248555286629037
81%|██████████████████████████████████████████████████████████████▌ | 9750/12000 [37:35<08:27, 4.44it/s]
train loss:2.752904797308541e-05
81%|██████████████████████████████████████████████████████████████▌ | 9751/12000 [37:36<08:25, 4.44it/s]
train loss:0.027826146499065053
81%|██████████████████████████████████████████████████████████████▌ | 9752/12000 [37:36<08:23, 4.46it/s]
train loss:0.0005159004939287759
81%|██████████████████████████████████████████████████████████████▌ | 9753/12000 [37:36<08:24, 4.45it/s]
train loss:0.0008849858759954349
81%|██████████████████████████████████████████████████████████████▌ | 9754/12000 [37:36<08:24, 4.45it/s]
train loss:0.0028951023973411744
81%|██████████████████████████████████████████████████████████████▌ | 9755/12000 [37:36<08:25, 4.44it/s]
train loss:0.0010153540786518025
81%|██████████████████████████████████████████████████████████████▌ | 9756/12000 [37:37<08:19, 4.50it/s]
train loss:0.0008677612331912116
81%|██████████████████████████████████████████████████████████████▌ | 9757/12000 [37:37<08:21, 4.47it/s]
train loss:0.002570087780294281
81%|██████████████████████████████████████████████████████████████▌ | 9758/12000 [37:37<08:22, 4.46it/s]
train loss:0.00042348158256287855
81%|██████████████████████████████████████████████████████████████▌ | 9759/12000 [37:37<08:23, 4.45it/s]
train loss:0.00511078226949473
81%|██████████████████████████████████████████████████████████████▋ | 9760/12000 [37:38<08:21, 4.47it/s]
train loss:0.001109490260446731
81%|██████████████████████████████████████████████████████████████▋ | 9761/12000 [37:38<08:19, 4.48it/s]
train loss:0.0006992448165445436
81%|██████████████████████████████████████████████████████████████▋ | 9762/12000 [37:38<08:21, 4.46it/s]
train loss:0.004214616752960172
81%|██████████████████████████████████████████████████████████████▋ | 9763/12000 [37:38<08:21, 4.46it/s]
train loss:0.004580673706646432
81%|██████████████████████████████████████████████████████████████▋ | 9764/12000 [37:39<08:26, 4.42it/s]
train loss:0.00017646214045702018
81%|██████████████████████████████████████████████████████████████▋ | 9765/12000 [37:39<08:20, 4.47it/s]
train loss:0.0024549248267179686
81%|██████████████████████████████████████████████████████████████▋ | 9766/12000 [37:39<08:22, 4.45it/s]
train loss:0.004856108889964579
81%|██████████████████████████████████████████████████████████████▋ | 9767/12000 [37:39<08:22, 4.45it/s]
train loss:8.390042882746103e-05
81%|██████████████████████████████████████████████████████████████▋ | 9768/12000 [37:39<08:24, 4.43it/s]
train loss:0.00021680373466803328
81%|██████████████████████████████████████████████████████████████▋ | 9769/12000 [37:40<08:20, 4.46it/s]
train loss:0.002595318838487668
81%|██████████████████████████████████████████████████████████████▋ | 9770/12000 [37:40<08:20, 4.46it/s]
train loss:0.0023386111027462017
81%|██████████████████████████████████████████████████████████████▋ | 9771/12000 [37:40<08:24, 4.42it/s]
train loss:0.001735623089356244
81%|██████████████████████████████████████████████████████████████▋ | 9772/12000 [37:40<08:28, 4.39it/s]
train loss:0.0034005116850456822
81%|██████████████████████████████████████████████████████████████▋ | 9773/12000 [37:41<08:37, 4.30it/s]
train loss:0.0034102455607654624
81%|██████████████████████████████████████████████████████████████▋ | 9774/12000 [37:41<08:28, 4.38it/s]
train loss:0.0042335297136579806
81%|██████████████████████████████████████████████████████████████▋ | 9775/12000 [37:41<08:29, 4.37it/s]
train loss:7.592760854526277e-05
81%|██████████████████████████████████████████████████████████████▋ | 9776/12000 [37:41<08:26, 4.39it/s]
train loss:0.00024536292576996617
81%|██████████████████████████████████████████████████████████████▋ | 9777/12000 [37:41<08:24, 4.41it/s]
train loss:0.003671059338237605
81%|██████████████████████████████████████████████████████████████▋ | 9778/12000 [37:42<08:27, 4.38it/s]
train loss:0.0006587732404792351
81%|██████████████████████████████████████████████████████████████▋ | 9779/12000 [37:42<08:25, 4.39it/s]
train loss:0.000988904768670129
82%|██████████████████████████████████████████████████████████████▊ | 9780/12000 [37:42<08:24, 4.40it/s]
train loss:0.0004552237601787874
82%|██████████████████████████████████████████████████████████████▊ | 9781/12000 [37:42<08:22, 4.42it/s]
train loss:0.009859007136428139
82%|██████████████████████████████████████████████████████████████▊ | 9782/12000 [37:43<08:25, 4.39it/s]
train loss:0.0009349223225766268
82%|██████████████████████████████████████████████████████████████▊ | 9783/12000 [37:43<08:23, 4.40it/s]
train loss:0.00024406451195762018
82%|██████████████████████████████████████████████████████████████▊ | 9784/12000 [37:43<08:24, 4.39it/s]
train loss:0.002456512769127776
82%|██████████████████████████████████████████████████████████████▊ | 9785/12000 [37:43<08:23, 4.40it/s]
train loss:0.013246614845786996
82%|██████████████████████████████████████████████████████████████▊ | 9786/12000 [37:44<08:24, 4.39it/s]
train loss:0.0007898736588555587
82%|██████████████████████████████████████████████████████████████▊ | 9787/12000 [37:44<08:40, 4.25it/s]
train loss:0.0017287904777386549
82%|██████████████████████████████████████████████████████████████▊ | 9788/12000 [37:44<08:43, 4.22it/s]
train loss:4.3720516784161906e-05
82%|██████████████████████████████████████████████████████████████▊ | 9789/12000 [37:44<08:39, 4.26it/s]
train loss:0.0014534261178199214
82%|██████████████████████████████████████████████████████████████▊ | 9790/12000 [37:44<08:35, 4.28it/s]
train loss:0.0013763679352747085
82%|██████████████████████████████████████████████████████████████▊ | 9791/12000 [37:45<08:24, 4.38it/s]
train loss:0.0012890143564668372
82%|██████████████████████████████████████████████████████████████▊ | 9792/12000 [37:45<08:16, 4.44it/s]
train loss:0.00218733864028557
82%|██████████████████████████████████████████████████████████████▊ | 9793/12000 [37:45<08:16, 4.45it/s]
train loss:0.0003753543537039501
82%|██████████████████████████████████████████████████████████████▊ | 9794/12000 [37:45<08:15, 4.45it/s]
train loss:9.778399552765187e-05
82%|██████████████████████████████████████████████████████████████▊ | 9795/12000 [37:46<08:13, 4.47it/s]
train loss:4.998318419713942e-05
82%|██████████████████████████████████████████████████████████████▊ | 9796/12000 [37:46<08:08, 4.51it/s]
train loss:0.00046286582964489187
82%|██████████████████████████████████████████████████████████████▊ | 9797/12000 [37:46<08:12, 4.48it/s]
train loss:0.005770515135647413
82%|██████████████████████████████████████████████████████████████▊ | 9798/12000 [37:46<08:12, 4.47it/s]
train loss:7.893139131887786e-05
82%|██████████████████████████████████████████████████████████████▉ | 9799/12000 [37:46<08:12, 4.47it/s]
train loss:0.0035868836815390686
82%|██████████████████████████████████████████████████████████████▉ | 9800/12000 [37:47<08:07, 4.51it/s]
train loss:0.00027380864168730106
82%|██████████████████████████████████████████████████████████████▉ | 9801/12000 [37:47<08:09, 4.49it/s]
train loss:0.0005781552737802761
82%|██████████████████████████████████████████████████████████████▉ | 9802/12000 [37:47<08:10, 4.48it/s]
train loss:0.0011119897381027762
82%|██████████████████████████████████████████████████████████████▉ | 9803/12000 [37:47<08:10, 4.48it/s]
train loss:0.0044951595907821865
82%|██████████████████████████████████████████████████████████████▉ | 9804/12000 [37:48<08:09, 4.48it/s]
train loss:0.000522155447477039
82%|██████████████████████████████████████████████████████████████▉ | 9805/12000 [37:48<08:04, 4.53it/s]
train loss:0.007653927546880454
82%|██████████████████████████████████████████████████████████████▉ | 9806/12000 [37:48<08:06, 4.51it/s]
train loss:0.0011466003231579284
82%|██████████████████████████████████████████████████████████████▉ | 9807/12000 [37:48<08:07, 4.50it/s]
train loss:0.0011184528190258498
82%|██████████████████████████████████████████████████████████████▉ | 9808/12000 [37:48<08:08, 4.49it/s]
train loss:0.0010695681745310672
82%|██████████████████████████████████████████████████████████████▉ | 9809/12000 [37:49<08:05, 4.51it/s]
train loss:0.0009431271766235047
82%|██████████████████████████████████████████████████████████████▉ | 9810/12000 [37:49<08:08, 4.48it/s]
train loss:0.0016018484265491876
82%|██████████████████████████████████████████████████████████████▉ | 9811/12000 [37:49<08:08, 4.48it/s]
train loss:0.0005779483437997346
82%|██████████████████████████████████████████████████████████████▉ | 9812/12000 [37:49<08:09, 4.47it/s]
train loss:0.0001514620912886529
82%|██████████████████████████████████████████████████████████████▉ | 9813/12000 [37:50<08:08, 4.48it/s]
train loss:0.0007865670568905888
82%|██████████████████████████████████████████████████████████████▉ | 9814/12000 [37:50<08:04, 4.51it/s]
train loss:0.0028612224793352382
82%|██████████████████████████████████████████████████████████████▉ | 9815/12000 [37:50<08:05, 4.50it/s]
train loss:0.0012333255621577268
82%|██████████████████████████████████████████████████████████████▉ | 9816/12000 [37:50<08:07, 4.48it/s]
train loss:0.0027784767918832094
82%|██████████████████████████████████████████████████████████████▉ | 9817/12000 [37:50<08:07, 4.48it/s]
train loss:0.0006929032958348797
82%|██████████████████████████████████████████████████████████████▉ | 9818/12000 [37:51<08:03, 4.52it/s]
train loss:0.00014784802761693634
82%|███████████████████████████████████████████████████████████████ | 9819/12000 [37:51<08:06, 4.49it/s]
train loss:0.002465344932486093
82%|███████████████████████████████████████████████████████████████ | 9820/12000 [37:51<08:06, 4.48it/s]
train loss:0.00043942855631868747
82%|███████████████████████████████████████████████████████████████ | 9821/12000 [37:51<08:06, 4.47it/s]
train loss:0.0037075948076605836
82%|███████████████████████████████████████████████████████████████ | 9822/12000 [37:52<08:05, 4.48it/s]
train loss:0.02901660922587163
82%|███████████████████████████████████████████████████████████████ | 9823/12000 [37:52<08:01, 4.52it/s]
train loss:0.0023420017445011264
82%|███████████████████████████████████████████████████████████████ | 9824/12000 [37:52<08:06, 4.47it/s]
train loss:0.0001354405435881089
82%|███████████████████████████████████████████████████████████████ | 9825/12000 [37:52<08:07, 4.46it/s]
train loss:0.0006148185630020166
82%|███████████████████████████████████████████████████████████████ | 9826/12000 [37:52<08:08, 4.45it/s]
train loss:0.001231534170462341
82%|███████████████████████████████████████████████████████████████ | 9827/12000 [37:53<08:03, 4.49it/s]
train loss:0.00023520686059827424
82%|███████████████████████████████████████████████████████████████ | 9828/12000 [37:53<08:06, 4.46it/s]
train loss:0.0017282958366603956
82%|███████████████████████████████████████████████████████████████ | 9829/12000 [37:53<08:06, 4.46it/s]
train loss:0.0015289893068052758
82%|███████████████████████████████████████████████████████████████ | 9830/12000 [37:53<08:06, 4.46it/s]
train loss:0.0014835065806981975
82%|███████████████████████████████████████████████████████████████ | 9831/12000 [37:54<08:07, 4.45it/s]
train loss:0.012918562101404803
82%|███████████████████████████████████████████████████████████████ | 9832/12000 [37:54<08:06, 4.46it/s]
train loss:0.004000926758700974
82%|███████████████████████████████████████████████████████████████ | 9833/12000 [37:54<08:06, 4.45it/s]
train loss:0.009585283248055748
82%|███████████████████████████████████████████████████████████████ | 9834/12000 [37:54<08:07, 4.44it/s]
train loss:0.0006301258160573911
82%|███████████████████████████████████████████████████████████████ | 9835/12000 [37:54<08:12, 4.40it/s]
train loss:0.0002918054152082022
82%|███████████████████████████████████████████████████████████████ | 9836/12000 [37:55<08:04, 4.46it/s]
train loss:0.002569580429230379
82%|███████████████████████████████████████████████████████████████ | 9837/12000 [37:55<08:06, 4.45it/s]
train loss:0.00418824659162542
82%|███████████████████████████████████████████████████████████████▏ | 9838/12000 [37:55<08:12, 4.39it/s]
train loss:0.00233784730678869
82%|███████████████████████████████████████████████████████████████▏ | 9839/12000 [37:55<08:14, 4.37it/s]
train loss:0.0010712321558828837
82%|███████████████████████████████████████████████████████████████▏ | 9840/12000 [37:56<08:21, 4.31it/s]
train loss:0.01787548570301742
82%|███████████████████████████████████████████████████████████████▏ | 9841/12000 [37:56<08:48, 4.09it/s]
train loss:0.0017808967794889767
82%|███████████████████████████████████████████████████████████████▏ | 9842/12000 [37:56<09:11, 3.91it/s]
train loss:0.0021696685416761
82%|███████████████████████████████████████████████████████████████▏ | 9843/12000 [37:56<09:01, 3.99it/s]
train loss:0.0089921874193477
82%|███████████████████████████████████████████████████████████████▏ | 9844/12000 [37:57<08:41, 4.14it/s]
train loss:0.0008422241994841659
82%|███████████████████████████████████████████████████████████████▏ | 9845/12000 [37:57<08:30, 4.22it/s]
train loss:0.002386916089851671
82%|███████████████████████████████████████████████████████████████▏ | 9846/12000 [37:57<08:22, 4.29it/s]
train loss:0.002889962230577749
82%|███████████████████████████████████████████████████████████████▏ | 9847/12000 [37:57<08:17, 4.33it/s]
train loss:0.004607297040005772
82%|███████████████████████████████████████████████████████████████▏ | 9848/12000 [37:58<08:14, 4.35it/s]
train loss:0.00023622044530185665
82%|███████████████████████████████████████████████████████████████▏ | 9849/12000 [37:58<08:12, 4.36it/s]
train loss:0.0023207719462964072
82%|███████████████████████████████████████████████████████████████▏ | 9850/12000 [37:58<08:10, 4.38it/s]
train loss:0.0012788291248945615
82%|███████████████████████████████████████████████████████████████▏ | 9851/12000 [37:58<08:12, 4.36it/s]
train loss:0.00032816677396888433
82%|███████████████████████████████████████████████████████████████▏ | 9852/12000 [37:58<08:11, 4.37it/s]
train loss:0.0009585724916055413
82%|███████████████████████████████████████████████████████████████▏ | 9853/12000 [37:59<08:07, 4.41it/s]
train loss:0.0006254010247984252
82%|███████████████████████████████████████████████████████████████▏ | 9854/12000 [37:59<08:06, 4.41it/s]
train loss:0.002412284413597763
82%|███████████████████████████████████████████████████████████████▏ | 9855/12000 [37:59<08:03, 4.44it/s]
train loss:0.001396742051074904
82%|███████████████████████████████████████████████████████████████▏ | 9856/12000 [37:59<08:00, 4.46it/s]
train loss:0.0055142132205804615
82%|███████████████████████████████████████████████████████████████▏ | 9857/12000 [38:00<07:58, 4.48it/s]
train loss:0.0037992263642253766
82%|███████████████████████████████████████████████████████████████▎ | 9858/12000 [38:00<07:57, 4.49it/s]
train loss:0.00042025747655812385
82%|███████████████████████████████████████████████████████████████▎ | 9859/12000 [38:00<08:02, 4.44it/s]
train loss:0.003277183836160937
82%|███████████████████████████████████████████████████████████████▎ | 9860/12000 [38:00<08:03, 4.43it/s]
train loss:0.0017573875966339486
82%|███████████████████████████████████████████████████████████████▎ | 9861/12000 [38:01<08:08, 4.38it/s]
train loss:0.0010391329435184237
82%|███████████████████████████████████████████████████████████████▎ | 9862/12000 [38:01<08:02, 4.43it/s]
train loss:0.0014225360506754255
82%|███████████████████████████████████████████████████████████████▎ | 9863/12000 [38:01<08:04, 4.41it/s]
train loss:0.0018587905063366756
82%|███████████████████████████████████████████████████████████████▎ | 9864/12000 [38:01<08:05, 4.40it/s]
train loss:0.0015129657179779829
82%|███████████████████████████████████████████████████████████████▎ | 9865/12000 [38:01<08:09, 4.36it/s]
train loss:0.0018961995412966584
82%|███████████████████████████████████████████████████████████████▎ | 9866/12000 [38:02<08:05, 4.40it/s]
train loss:0.0010154803283806135
82%|███████████████████████████████████████████████████████████████▎ | 9867/12000 [38:02<08:06, 4.38it/s]
train loss:0.00011111551261673446
82%|███████████████████████████████████████████████████████████████▎ | 9868/12000 [38:02<08:06, 4.38it/s]
train loss:0.00016527382332815358
82%|███████████████████████████████████████████████████████████████▎ | 9869/12000 [38:02<08:11, 4.34it/s]
train loss:0.0034681306821702745
82%|███████████████████████████████████████████████████████████████▎ | 9870/12000 [38:03<08:11, 4.33it/s]
train loss:0.0003284011435678887
82%|███████████████████████████████████████████████████████████████▎ | 9871/12000 [38:03<08:08, 4.36it/s]
train loss:0.006799973328765313
82%|███████████████████████████████████████████████████████████████▎ | 9872/12000 [38:03<08:09, 4.34it/s]
train loss:0.0012829558295918708
82%|███████████████████████████████████████████████████████████████▎ | 9873/12000 [38:03<08:12, 4.32it/s]
train loss:0.0005603008007269733
82%|███████████████████████████████████████████████████████████████▎ | 9874/12000 [38:03<08:16, 4.28it/s]
train loss:6.249505650720536e-05
82%|███████████████████████████████████████████████████████████████▎ | 9875/12000 [38:04<08:06, 4.37it/s]
train loss:0.007588314220172539
82%|███████████████████████████████████████████████████████████████▎ | 9876/12000 [38:04<08:09, 4.34it/s]
train loss:0.00011502709373457282
82%|███████████████████████████████████████████████████████████████▍ | 9877/12000 [38:04<08:05, 4.37it/s]
train loss:0.030189419125253032
82%|███████████████████████████████████████████████████████████████▍ | 9878/12000 [38:04<08:03, 4.38it/s]
train loss:0.002886600400185796
82%|███████████████████████████████████████████████████████████████▍ | 9879/12000 [38:05<08:01, 4.40it/s]
train loss:0.0006580926740682465
82%|███████████████████████████████████████████████████████████████▍ | 9880/12000 [38:05<08:02, 4.40it/s]
train loss:0.0007255769869836061
82%|███████████████████████████████████████████████████████████████▍ | 9881/12000 [38:05<08:01, 4.40it/s]
train loss:0.0010032678408860313
82%|███████████████████████████████████████████████████████████████▍ | 9882/12000 [38:05<08:01, 4.39it/s]
train loss:0.0001475915636029985
82%|███████████████████████████████████████████████████████████████▍ | 9883/12000 [38:06<08:05, 4.36it/s]
train loss:0.0002793241764369988
82%|███████████████████████████████████████████████████████████████▍ | 9884/12000 [38:06<07:58, 4.42it/s]
train loss:0.0004244187435060997
82%|███████████████████████████████████████████████████████████████▍ | 9885/12000 [38:06<07:58, 4.42it/s]
train loss:0.00041335972280065263
82%|███████████████████████████████████████████████████████████████▍ | 9886/12000 [38:06<07:58, 4.42it/s]
train loss:0.003711646426092283
82%|███████████████████████████████████████████████████████████████▍ | 9887/12000 [38:06<07:59, 4.41it/s]
train loss:0.00015912411297256887
82%|███████████████████████████████████████████████████████████████▍ | 9888/12000 [38:07<07:55, 4.44it/s]
train loss:0.00037974572624385793
82%|███████████████████████████████████████████████████████████████▍ | 9889/12000 [38:07<07:56, 4.43it/s]
train loss:0.0008135502279722212
82%|███████████████████████████████████████████████████████████████▍ | 9890/12000 [38:07<07:59, 4.40it/s]
train loss:0.002774344466939413
82%|███████████████████████████████████████████████████████████████▍ | 9891/12000 [38:07<08:00, 4.39it/s]
train loss:0.0006923350584836835
82%|███████████████████████████████████████████████████████████████▍ | 9892/12000 [38:08<08:28, 4.14it/s]
train loss:0.0005936004836964155
82%|███████████████████████████████████████████████████████████████▍ | 9893/12000 [38:08<08:48, 3.99it/s]
train loss:0.00011134854629206704
82%|███████████████████████████████████████████████████████████████▍ | 9894/12000 [38:08<08:45, 4.00it/s]
train loss:0.006272235940190662
82%|███████████████████████████████████████████████████████████████▍ | 9895/12000 [38:08<08:31, 4.12it/s]
train loss:0.0014032878770245014
82%|███████████████████████████████████████████████████████████████▍ | 9896/12000 [38:09<08:20, 4.20it/s]
train loss:7.47395526569376e-05
82%|███████████████████████████████████████████████████████████████▌ | 9897/12000 [38:09<08:10, 4.29it/s]
train loss:0.0007562947069847941
82%|███████████████████████████████████████████████████████████████▌ | 9898/12000 [38:09<08:11, 4.28it/s]
train loss:0.001852368120737527
82%|███████████████████████████████████████████████████████████████▌ | 9899/12000 [38:09<08:09, 4.29it/s]
train loss:0.0007743841258036647
82%|███████████████████████████████████████████████████████████████▌ | 9900/12000 [38:10<08:08, 4.30it/s]
train loss:0.0004939991473414591
83%|███████████████████████████████████████████████████████████████▌ | 9901/12000 [38:10<08:02, 4.35it/s]
train loss:0.0009149382122372046
83%|███████████████████████████████████████████████████████████████▌ | 9902/12000 [38:10<08:03, 4.34it/s]
train loss:0.0020870016287406552
83%|███████████████████████████████████████████████████████████████▌ | 9903/12000 [38:10<08:04, 4.33it/s]
train loss:0.0006116248329113837
83%|███████████████████████████████████████████████████████████████▌ | 9904/12000 [38:10<08:03, 4.33it/s]
train loss:0.0009276451217004341
83%|███████████████████████████████████████████████████████████████▌ | 9905/12000 [38:11<07:56, 4.40it/s]
train loss:0.0028024173917726818
83%|███████████████████████████████████████████████████████████████▌ | 9906/12000 [38:11<07:55, 4.41it/s]
train loss:0.002466861055806682
83%|███████████████████████████████████████████████████████████████▌ | 9907/12000 [38:11<07:56, 4.39it/s]
train loss:0.0018392619499824335
83%|███████████████████████████████████████████████████████████████▌ | 9908/12000 [38:11<07:54, 4.41it/s]
train loss:0.001608681723749075
83%|███████████████████████████████████████████████████████████████▌ | 9909/12000 [38:12<07:58, 4.37it/s]
train loss:0.00044578526588798397
83%|███████████████████████████████████████████████████████████████▌ | 9910/12000 [38:12<07:51, 4.43it/s]
train loss:0.004987156340249588
83%|███████████████████████████████████████████████████████████████▌ | 9911/12000 [38:12<07:51, 4.43it/s]
train loss:0.001364268365094723
83%|███████████████████████████████████████████████████████████████▌ | 9912/12000 [38:12<07:53, 4.41it/s]
train loss:0.0020440859843705197
83%|███████████████████████████████████████████████████████████████▌ | 9913/12000 [38:12<07:51, 4.42it/s]
train loss:0.00281572290608996
83%|███████████████████████████████████████████████████████████████▌ | 9914/12000 [38:13<07:49, 4.44it/s]
train loss:0.0003381878683431991
83%|███████████████████████████████████████████████████████████████▌ | 9915/12000 [38:13<07:44, 4.49it/s]
train loss:0.0052303746822104065
83%|███████████████████████████████████████████████████████████████▋ | 9916/12000 [38:13<07:46, 4.46it/s]
train loss:0.0006993992389204818
83%|███████████████████████████████████████████████████████████████▋ | 9917/12000 [38:13<07:48, 4.45it/s]
train loss:0.0007062438284976006
83%|███████████████████████████████████████████████████████████████▋ | 9918/12000 [38:14<07:45, 4.47it/s]
train loss:0.0001778560375326148
83%|███████████████████████████████████████████████████████████████▋ | 9919/12000 [38:14<07:43, 4.48it/s]
train loss:0.005803607032505736
83%|███████████████████████████████████████████████████████████████▋ | 9920/12000 [38:14<07:44, 4.48it/s]
train loss:0.0004968221318746234
83%|███████████████████████████████████████████████████████████████▋ | 9921/12000 [38:14<07:43, 4.49it/s]
train loss:5.222358568720003e-05
83%|███████████████████████████████████████████████████████████████▋ | 9922/12000 [38:14<07:42, 4.49it/s]
train loss:2.9730472497505174e-05
83%|███████████████████████████████████████████████████████████████▋ | 9923/12000 [38:15<07:36, 4.55it/s]
train loss:0.003879583089542255
83%|███████████████████████████████████████████████████████████████▋ | 9924/12000 [38:15<07:38, 4.53it/s]
train loss:0.0025351591885161857
83%|███████████████████████████████████████████████████████████████▋ | 9925/12000 [38:15<07:40, 4.50it/s]
train loss:0.0008717968977008362
83%|███████████████████████████████████████████████████████████████▋ | 9926/12000 [38:15<07:41, 4.49it/s]
train loss:0.0004472820420411667
83%|███████████████████████████████████████████████████████████████▋ | 9927/12000 [38:16<07:41, 4.49it/s]
train loss:0.0019165989898140257
83%|███████████████████████████████████████████████████████████████▋ | 9928/12000 [38:16<07:39, 4.51it/s]
train loss:0.0011768938184893813
83%|███████████████████████████████████████████████████████████████▋ | 9929/12000 [38:16<07:40, 4.50it/s]
train loss:0.002113364325736128
83%|███████████████████████████████████████████████████████████████▋ | 9930/12000 [38:16<07:41, 4.48it/s]
train loss:0.0009043237067968105
83%|███████████████████████████████████████████████████████████████▋ | 9931/12000 [38:16<07:44, 4.45it/s]
train loss:0.0005677918107884134
83%|███████████████████████████████████████████████████████████████▋ | 9932/12000 [38:17<07:37, 4.52it/s]
train loss:0.0005143028536385169
83%|███████████████████████████████████████████████████████████████▋ | 9933/12000 [38:17<07:40, 4.49it/s]
train loss:0.0018898882482510512
83%|███████████████████████████████████████████████████████████████▋ | 9934/12000 [38:17<07:40, 4.49it/s]
train loss:0.0018598644177815157
83%|███████████████████████████████████████████████████████████████▋ | 9935/12000 [38:17<07:43, 4.46it/s]
train loss:0.003182482454759228
83%|███████████████████████████████████████████████████████████████▊ | 9936/12000 [38:18<07:44, 4.45it/s]
train loss:0.0005367997461543078
83%|███████████████████████████████████████████████████████████████▊ | 9937/12000 [38:18<07:40, 4.48it/s]
train loss:0.0006175631768678122
83%|███████████████████████████████████████████████████████████████▊ | 9938/12000 [38:18<07:41, 4.47it/s]
train loss:0.00031788145892455965
83%|███████████████████████████████████████████████████████████████▊ | 9939/12000 [38:18<07:41, 4.47it/s]
train loss:0.00031865614770140873
83%|███████████████████████████████████████████████████████████████▊ | 9940/12000 [38:18<07:41, 4.47it/s]
train loss:0.0017722143928474887
83%|███████████████████████████████████████████████████████████████▊ | 9941/12000 [38:19<07:37, 4.50it/s]
train loss:0.0031324047860895625
83%|███████████████████████████████████████████████████████████████▊ | 9942/12000 [38:19<07:38, 4.49it/s]
train loss:0.00017568206648434234
83%|███████████████████████████████████████████████████████████████▊ | 9943/12000 [38:19<07:39, 4.47it/s]
train loss:0.0004244852757362328
83%|███████████████████████████████████████████████████████████████▊ | 9944/12000 [38:19<07:39, 4.47it/s]
train loss:0.00029308233680227467
83%|███████████████████████████████████████████████████████████████▊ | 9945/12000 [38:20<07:36, 4.50it/s]
train loss:0.0008762723888552759
83%|███████████████████████████████████████████████████████████████▊ | 9946/12000 [38:20<07:34, 4.52it/s]
train loss:0.00013583811491934154
83%|███████████████████████████████████████████████████████████████▊ | 9947/12000 [38:20<07:39, 4.47it/s]
train loss:7.12066634016317e-05
83%|███████████████████████████████████████████████████████████████▊ | 9948/12000 [38:20<07:40, 4.46it/s]
train loss:0.0011223639630543578
83%|███████████████████████████████████████████████████████████████▊ | 9949/12000 [38:20<07:41, 4.44it/s]
train loss:0.0017103881326148373
83%|███████████████████████████████████████████████████████████████▊ | 9950/12000 [38:21<07:35, 4.50it/s]
train loss:0.0018609484748455748
83%|███████████████████████████████████████████████████████████████▊ | 9951/12000 [38:21<07:36, 4.49it/s]
train loss:0.0003436078991209285
83%|███████████████████████████████████████████████████████████████▊ | 9952/12000 [38:21<07:38, 4.47it/s]
train loss:0.0005171958904856623
83%|███████████████████████████████████████████████████████████████▊ | 9953/12000 [38:21<07:40, 4.44it/s]
train loss:0.0007230356669046521
83%|███████████████████████████████████████████████████████████████▊ | 9954/12000 [38:22<07:37, 4.47it/s]
train loss:0.0008735838100770764
83%|███████████████████████████████████████████████████████████████▉ | 9955/12000 [38:22<07:36, 4.48it/s]
train loss:0.004069976166887746
83%|███████████████████████████████████████████████████████████████▉ | 9956/12000 [38:22<07:36, 4.48it/s]
train loss:0.0002806292138414345
83%|███████████████████████████████████████████████████████████████▉ | 9957/12000 [38:22<07:36, 4.48it/s]
train loss:0.006298946072017041
83%|███████████████████████████████████████████████████████████████▉ | 9958/12000 [38:23<07:37, 4.47it/s]
train loss:0.0007849581162032471
83%|███████████████████████████████████████████████████████████████▉ | 9959/12000 [38:23<07:32, 4.51it/s]
train loss:0.0005009951506098356
83%|███████████████████████████████████████████████████████████████▉ | 9960/12000 [38:23<07:33, 4.50it/s]
train loss:0.0014121833261421363
83%|███████████████████████████████████████████████████████████████▉ | 9961/12000 [38:23<07:37, 4.46it/s]
train loss:0.0010890770174331566
83%|███████████████████████████████████████████████████████████████▉ | 9962/12000 [38:23<07:38, 4.45it/s]
train loss:0.0003456310789820867
83%|███████████████████████████████████████████████████████████████▉ | 9963/12000 [38:24<07:34, 4.48it/s]
train loss:0.00325015756770706
83%|███████████████████████████████████████████████████████████████▉ | 9964/12000 [38:24<07:36, 4.46it/s]
train loss:9.843970866302813e-05
83%|███████████████████████████████████████████████████████████████▉ | 9965/12000 [38:24<07:35, 4.47it/s]
train loss:0.00019528886174881858
83%|███████████████████████████████████████████████████████████████▉ | 9966/12000 [38:24<07:34, 4.48it/s]
train loss:0.0030625217474247774
83%|███████████████████████████████████████████████████████████████▉ | 9967/12000 [38:25<07:39, 4.43it/s]
train loss:0.0004523637609540426
83%|███████████████████████████████████████████████████████████████▉ | 9968/12000 [38:25<07:31, 4.50it/s]
train loss:0.0006674094892156638
83%|███████████████████████████████████████████████████████████████▉ | 9969/12000 [38:25<07:31, 4.50it/s]
train loss:0.00012190060221420588
83%|███████████████████████████████████████████████████████████████▉ | 9970/12000 [38:25<07:31, 4.49it/s]
train loss:0.00017285518624518957
83%|███████████████████████████████████████████████████████████████▉ | 9971/12000 [38:25<07:33, 4.47it/s]
train loss:0.0007644259979325483
83%|███████████████████████████████████████████████████████████████▉ | 9972/12000 [38:26<07:29, 4.51it/s]
train loss:0.0005112877771430537
83%|███████████████████████████████████████████████████████████████▉ | 9973/12000 [38:26<07:28, 4.52it/s]
train loss:0.0004280991431863777
83%|███████████████████████████████████████████████████████████████▉ | 9974/12000 [38:26<07:30, 4.49it/s]
train loss:0.0006663778321076999
83%|████████████████████████████████████████████████████████████████ | 9975/12000 [38:26<07:30, 4.49it/s]
train loss:0.0013563842598828492
83%|████████████████████████████████████████████████████████████████ | 9976/12000 [38:27<07:33, 4.46it/s]
train loss:0.00047338059318740493
83%|████████████████████████████████████████████████████████████████ | 9977/12000 [38:27<07:30, 4.49it/s]
train loss:0.0012883634653087811
83%|████████████████████████████████████████████████████████████████ | 9978/12000 [38:27<07:30, 4.49it/s]
train loss:0.002917329036822613
83%|████████████████████████████████████████████████████████████████ | 9979/12000 [38:27<07:30, 4.49it/s]
train loss:0.001438169050453485
83%|████████████████████████████████████████████████████████████████ | 9980/12000 [38:27<07:30, 4.49it/s]
train loss:0.004930373295288512
83%|████████████████████████████████████████████████████████████████ | 9981/12000 [38:28<07:25, 4.53it/s]
train loss:0.03345291706319101
83%|████████████████████████████████████████████████████████████████ | 9982/12000 [38:28<07:28, 4.50it/s]
train loss:0.004021881518585407
83%|████████████████████████████████████████████████████████████████ | 9983/12000 [38:28<07:36, 4.42it/s]
train loss:0.0037250283332799965
83%|████████████████████████████████████████████████████████████████ | 9984/12000 [38:28<07:40, 4.38it/s]
train loss:0.0021015293529513387
83%|████████████████████████████████████████████████████████████████ | 9985/12000 [38:29<07:39, 4.39it/s]
train loss:7.862790176361441e-05
83%|████████████████████████████████████████████████████████████████ | 9986/12000 [38:29<07:33, 4.44it/s]
train loss:0.0005348473150929637
83%|████████████████████████████████████████████████████████████████ | 9987/12000 [38:29<07:33, 4.44it/s]
train loss:0.0014041835627806843
83%|████████████████████████████████████████████████████████████████ | 9988/12000 [38:29<07:33, 4.44it/s]
train loss:0.002396610532177015
83%|████████████████████████████████████████████████████████████████ | 9989/12000 [38:29<07:30, 4.46it/s]
train loss:0.0001944576761732033
83%|████████████████████████████████████████████████████████████████ | 9990/12000 [38:30<07:23, 4.53it/s]
train loss:0.002819735999332819
83%|████████████████████████████████████████████████████████████████ | 9991/12000 [38:30<07:28, 4.48it/s]
train loss:0.001572152887381375
83%|████████████████████████████████████████████████████████████████ | 9992/12000 [38:30<07:33, 4.43it/s]
train loss:0.0005292783245944193
83%|████████████████████████████████████████████████████████████████ | 9993/12000 [38:30<07:31, 4.45it/s]
train loss:0.007051436139106547
83%|████████████████████████████████████████████████████████████████▏ | 9994/12000 [38:31<07:31, 4.45it/s]
train loss:0.0012123941110442603
83%|████████████████████████████████████████████████████████████████▏ | 9995/12000 [38:31<07:25, 4.50it/s]
train loss:0.002373749171733539
83%|████████████████████████████████████████████████████████████████▏ | 9996/12000 [38:31<07:25, 4.49it/s]
train loss:0.000496377057162341
83%|████████████████████████████████████████████████████████████████▏ | 9997/12000 [38:31<07:25, 4.49it/s]
train loss:0.005005996190726864
83%|████████████████████████████████████████████████████████████████▏ | 9998/12000 [38:31<07:27, 4.48it/s]
train loss:0.0030348459970739035
83%|████████████████████████████████████████████████████████████████▏ | 9999/12000 [38:32<07:23, 4.52it/s]
train loss:0.00036219917726751437
83%|███████████████████████████████████████████████████████████████▎ | 10000/12000 [38:32<07:23, 4.51it/s]
train loss:0.0002549530069723588
83%|███████████████████████████████████████████████████████████████▎ | 10001/12000 [38:32<07:24, 4.49it/s]
train loss:0.0015035039857404402
83%|███████████████████████████████████████████████████████████████▎ | 10002/12000 [38:32<07:24, 4.50it/s]
train loss:0.00016988738548292747
83%|███████████████████████████████████████████████████████████████▎ | 10003/12000 [38:33<07:27, 4.46it/s]
train loss:0.0008073142438520376
83%|███████████████████████████████████████████████████████████████▎ | 10004/12000 [38:33<07:21, 4.52it/s]
train loss:0.0002899629304274072
83%|███████████████████████████████████████████████████████████████▎ | 10005/12000 [38:33<07:22, 4.51it/s]
train loss:0.003249319754467448
83%|███████████████████████████████████████████████████████████████▎ | 10006/12000 [38:33<07:24, 4.49it/s]
train loss:0.00018253278783774226
83%|███████████████████████████████████████████████████████████████▍ | 10007/12000 [38:33<07:26, 4.47it/s]
train loss:0.00011696810054903925
83%|███████████████████████████████████████████████████████████████▍ | 10008/12000 [38:34<07:21, 4.52it/s]
train loss:0.002787934457010159
83%|███████████████████████████████████████████████████████████████▍ | 10009/12000 [38:34<07:25, 4.47it/s]
train loss:0.0012792734749783451
83%|███████████████████████████████████████████████████████████████▍ | 10010/12000 [38:34<07:33, 4.39it/s]
train loss:0.002267721488792478
83%|███████████████████████████████████████████████████████████████▍ | 10011/12000 [38:34<07:31, 4.40it/s]
train loss:0.0020803784462135964
83%|███████████████████████████████████████████████████████████████▍ | 10012/12000 [38:35<07:29, 4.43it/s]
train loss:0.0037580503093302396
83%|███████████████████████████████████████████████████████████████▍ | 10013/12000 [38:35<07:25, 4.46it/s]
train loss:0.0008354930009202268
83%|███████████████████████████████████████████████████████████████▍ | 10014/12000 [38:35<07:25, 4.46it/s]
train loss:0.0004048487533359643
83%|███████████████████████████████████████████████████████████████▍ | 10015/12000 [38:35<07:25, 4.45it/s]
train loss:0.002115238025037029
83%|███████████████████████████████████████████████████████████████▍ | 10016/12000 [38:35<07:26, 4.44it/s]
train loss:0.0026545900488704794
83%|███████████████████████████████████████████████████████████████▍ | 10017/12000 [38:36<07:25, 4.45it/s]
train loss:0.00027452018105674105
83%|███████████████████████████████████████████████████████████████▍ | 10018/12000 [38:36<07:28, 4.42it/s]
train loss:0.0012945909810851833
83%|███████████████████████████████████████████████████████████████▍ | 10019/12000 [38:36<07:25, 4.44it/s]
train loss:0.0007188434780531866
84%|███████████████████████████████████████████████████████████████▍ | 10020/12000 [38:36<07:24, 4.46it/s]
train loss:0.0401330055531461
84%|███████████████████████████████████████████████████████████████▍ | 10021/12000 [38:37<07:20, 4.49it/s]
train loss:0.0012374936870892983
84%|███████████████████████████████████████████████████████████████▍ | 10022/12000 [38:37<07:19, 4.50it/s]
train loss:0.0004637696359278725
84%|███████████████████████████████████████████████████████████████▍ | 10023/12000 [38:37<07:22, 4.46it/s]
train loss:0.000227443897078482
84%|███████████████████████████████████████████████████████████████▍ | 10024/12000 [38:37<07:23, 4.46it/s]
train loss:0.0009306283522538773
84%|███████████████████████████████████████████████████████████████▍ | 10025/12000 [38:37<07:24, 4.45it/s]
train loss:0.0004147467939828172
84%|███████████████████████████████████████████████████████████████▍ | 10026/12000 [38:38<07:21, 4.47it/s]
train loss:0.003910053598034996
84%|███████████████████████████████████████████████████████████████▌ | 10027/12000 [38:38<07:20, 4.47it/s]
train loss:0.0002589544144667186
84%|███████████████████████████████████████████████████████████████▌ | 10028/12000 [38:38<07:21, 4.47it/s]
train loss:0.0018357946699077824
84%|███████████████████████████████████████████████████████████████▌ | 10029/12000 [38:38<07:22, 4.46it/s]
train loss:0.0043159917688861335
84%|███████████████████████████████████████████████████████████████▌ | 10030/12000 [38:39<07:19, 4.48it/s]
train loss:0.0014498908047208957
84%|███████████████████████████████████████████████████████████████▌ | 10031/12000 [38:39<07:19, 4.48it/s]
train loss:0.0010464031410779167
84%|███████████████████████████████████████████████████████████████▌ | 10032/12000 [38:39<07:20, 4.47it/s]
train loss:0.004880715522811963
84%|███████████████████████████████████████████████████████████████▌ | 10033/12000 [38:39<07:20, 4.46it/s]
train loss:0.002564160460737275
84%|███████████████████████████████████████████████████████████████▌ | 10034/12000 [38:40<07:21, 4.46it/s]
train loss:0.001144451615531335
84%|███████████████████████████████████████████████████████████████▌ | 10035/12000 [38:40<07:18, 4.48it/s]
train loss:0.00019014581635814934
84%|███████████████████████████████████████████████████████████████▌ | 10036/12000 [38:40<07:19, 4.46it/s]
train loss:0.0009728631756492454
84%|███████████████████████████████████████████████████████████████▌ | 10037/12000 [38:40<07:19, 4.47it/s]
train loss:0.005343018232863577
84%|███████████████████████████████████████████████████████████████▌ | 10038/12000 [38:40<07:20, 4.46it/s]
train loss:0.0005103990601381103
84%|███████████████████████████████████████████████████████████████▌ | 10039/12000 [38:41<07:18, 4.48it/s]
train loss:0.0004891666138129705
84%|███████████████████████████████████████████████████████████████▌ | 10040/12000 [38:41<07:17, 4.48it/s]
train loss:0.000431466314721327
84%|███████████████████████████████████████████████████████████████▌ | 10041/12000 [38:41<07:17, 4.47it/s]
train loss:0.0011485198876570455
84%|███████████████████████████████████████████████████████████████▌ | 10042/12000 [38:41<07:17, 4.48it/s]
train loss:0.00015095033677538453
84%|███████████████████████████████████████████████████████████████▌ | 10043/12000 [38:42<07:20, 4.44it/s]
train loss:0.0017820108959502171
84%|███████████████████████████████████████████████████████████████▌ | 10044/12000 [38:42<07:17, 4.47it/s]
train loss:0.007124880151836913
84%|███████████████████████████████████████████████████████████████▌ | 10045/12000 [38:42<07:22, 4.42it/s]
train loss:0.001663072794745397
84%|███████████████████████████████████████████████████████████████▌ | 10046/12000 [38:42<07:21, 4.42it/s]
train loss:0.0017067748763583245
84%|███████████████████████████████████████████████████████████████▋ | 10047/12000 [38:42<07:23, 4.40it/s]
train loss:0.0016877201148428197
84%|███████████████████████████████████████████████████████████████▋ | 10048/12000 [38:43<07:48, 4.17it/s]
train loss:0.0001467942587164333
84%|███████████████████████████████████████████████████████████████▋ | 10049/12000 [38:43<08:09, 3.99it/s]
train loss:5.641949349802539e-05
84%|███████████████████████████████████████████████████████████████▋ | 10050/12000 [38:43<07:57, 4.08it/s]
train loss:0.0016715113750648746
84%|███████████████████████████████████████████████████████████████▋ | 10051/12000 [38:43<07:46, 4.18it/s]
train loss:0.0020168457181350278
84%|███████████████████████████████████████████████████████████████▋ | 10052/12000 [38:44<07:33, 4.29it/s]
train loss:0.0017435132618794764
84%|███████████████████████████████████████████████████████████████▋ | 10053/12000 [38:44<08:06, 4.00it/s]
train loss:0.002730977032127987
84%|███████████████████████████████████████████████████████████████▋ | 10054/12000 [38:44<08:08, 3.98it/s]
train loss:0.01787318927432742
84%|███████████████████████████████████████████████████████████████▋ | 10055/12000 [38:44<07:53, 4.11it/s]
train loss:0.001466881413279885
84%|███████████████████████████████████████████████████████████████▋ | 10056/12000 [38:45<07:38, 4.24it/s]
train loss:0.00021149892242909991
84%|███████████████████████████████████████████████████████████████▋ | 10057/12000 [38:45<07:35, 4.27it/s]
train loss:0.0029670596892673413
84%|███████████████████████████████████████████████████████████████▋ | 10058/12000 [38:45<07:31, 4.30it/s]
train loss:0.00018484142831076195
84%|███████████████████████████████████████████████████████████████▋ | 10059/12000 [38:45<07:27, 4.34it/s]
train loss:0.00042513046427519204
84%|███████████████████████████████████████████████████████████████▋ | 10060/12000 [38:46<07:23, 4.38it/s]
train loss:0.0008035099642010795
84%|███████████████████████████████████████████████████████████████▋ | 10061/12000 [38:46<07:20, 4.40it/s]
train loss:0.0025101436235866396
84%|███████████████████████████████████████████████████████████████▋ | 10062/12000 [38:46<07:21, 4.39it/s]
train loss:0.0002528672670001366
84%|███████████████████████████████████████████████████████████████▋ | 10063/12000 [38:46<07:18, 4.41it/s]
train loss:0.020996668331558242
84%|███████████████████████████████████████████████████████████████▋ | 10064/12000 [38:46<07:17, 4.42it/s]
train loss:0.003640116983361768
84%|███████████████████████████████████████████████████████████████▋ | 10065/12000 [38:47<07:15, 4.44it/s]
train loss:0.006235011946059643
84%|███████████████████████████████████████████████████████████████▊ | 10066/12000 [38:47<07:15, 4.44it/s]
train loss:0.0016957682696915122
84%|███████████████████████████████████████████████████████████████▊ | 10067/12000 [38:47<07:19, 4.40it/s]
train loss:0.0002655785051093429
84%|███████████████████████████████████████████████████████████████▊ | 10068/12000 [38:47<07:18, 4.40it/s]
train loss:0.0005293495828071611
84%|███████████████████████████████████████████████████████████████▊ | 10069/12000 [38:48<07:15, 4.43it/s]
train loss:0.002291171872458575
84%|███████████████████████████████████████████████████████████████▊ | 10070/12000 [38:48<07:11, 4.48it/s]
train loss:0.0038055759825738923
84%|███████████████████████████████████████████████████████████████▊ | 10071/12000 [38:48<07:10, 4.49it/s]
train loss:7.059397092331857e-05
84%|███████████████████████████████████████████████████████████████▊ | 10072/12000 [38:48<07:11, 4.47it/s]
train loss:0.0005256896828256246
84%|███████████████████████████████████████████████████████████████▊ | 10073/12000 [38:48<07:12, 4.45it/s]
train loss:0.0013854043077027676
84%|███████████████████████████████████████████████████████████████▊ | 10074/12000 [38:49<07:08, 4.49it/s]
train loss:0.0003740965689227568
84%|███████████████████████████████████████████████████████████████▊ | 10075/12000 [38:49<07:09, 4.48it/s]
train loss:0.0035892872429681456
84%|███████████████████████████████████████████████████████████████▊ | 10076/12000 [38:49<07:11, 4.46it/s]
train loss:0.004322205522801794
84%|███████████████████████████████████████████████████████████████▊ | 10077/12000 [38:49<07:11, 4.46it/s]
train loss:0.0011070862357761635
84%|███████████████████████████████████████████████████████████████▊ | 10078/12000 [38:50<07:12, 4.45it/s]
train loss:5.676267827513897e-05
84%|███████████████████████████████████████████████████████████████▊ | 10079/12000 [38:50<07:10, 4.46it/s]
train loss:0.0020926459524769105
84%|███████████████████████████████████████████████████████████████▊ | 10080/12000 [38:50<07:11, 4.45it/s]
train loss:0.001233139915005841
84%|███████████████████████████████████████████████████████████████▊ | 10081/12000 [38:50<07:11, 4.44it/s]
train loss:0.00027083923388426866
84%|███████████████████████████████████████████████████████████████▊ | 10082/12000 [38:50<07:10, 4.45it/s]
train loss:0.00680650248033487
84%|███████████████████████████████████████████████████████████████▊ | 10083/12000 [38:51<07:03, 4.52it/s]
train loss:0.001610444776773991
84%|███████████████████████████████████████████████████████████████▊ | 10084/12000 [38:51<07:04, 4.52it/s]
train loss:0.0037038671220206796
84%|███████████████████████████████████████████████████████████████▊ | 10085/12000 [38:51<07:04, 4.51it/s]
train loss:0.0020230530046629292
84%|███████████████████████████████████████████████████████████████▉ | 10086/12000 [38:51<07:04, 4.51it/s]
train loss:0.004191297241454849
84%|███████████████████████████████████████████████████████████████▉ | 10087/12000 [38:52<07:04, 4.50it/s]
train loss:0.0016828532518516574
84%|███████████████████████████████████████████████████████████████▉ | 10088/12000 [38:52<07:04, 4.51it/s]
train loss:0.005627580946779368
84%|███████████████████████████████████████████████████████████████▉ | 10089/12000 [38:52<07:03, 4.51it/s]
train loss:0.0005807382804045766
84%|███████████████████████████████████████████████████████████████▉ | 10090/12000 [38:52<07:03, 4.51it/s]
train loss:0.002675169907359618
84%|███████████████████████████████████████████████████████████████▉ | 10091/12000 [38:52<07:04, 4.50it/s]
train loss:0.013855959389387449
84%|███████████████████████████████████████████████████████████████▉ | 10092/12000 [38:53<07:01, 4.53it/s]
train loss:0.00037498062688781766
84%|███████████████████████████████████████████████████████████████▉ | 10093/12000 [38:53<07:03, 4.50it/s]
train loss:0.000679289467858908
84%|███████████████████████████████████████████████████████████████▉ | 10094/12000 [38:53<07:04, 4.49it/s]
train loss:0.003874392198678733
84%|███████████████████████████████████████████████████████████████▉ | 10095/12000 [38:53<07:03, 4.50it/s]
train loss:0.035442284791613494
84%|███████████████████████████████████████████████████████████████▉ | 10096/12000 [38:54<07:04, 4.49it/s]
train loss:0.00364364704981151
84%|███████████████████████████████████████████████████████████████▉ | 10097/12000 [38:54<07:01, 4.51it/s]
train loss:0.00333189481400201
84%|███████████████████████████████████████████████████████████████▉ | 10098/12000 [38:54<07:04, 4.48it/s]
train loss:0.0008741588665530164
84%|███████████████████████████████████████████████████████████████▉ | 10099/12000 [38:54<07:03, 4.48it/s]
train loss:0.00041838071511983655
84%|███████████████████████████████████████████████████████████████▉ | 10100/12000 [38:54<07:04, 4.48it/s]
train loss:0.00500754489730785
84%|███████████████████████████████████████████████████████████████▉ | 10101/12000 [38:55<07:00, 4.52it/s]
train loss:0.003640472006003684
84%|███████████████████████████████████████████████████████████████▉ | 10102/12000 [38:55<07:02, 4.49it/s]
train loss:0.0003914622488463442
84%|███████████████████████████████████████████████████████████████▉ | 10103/12000 [38:55<07:05, 4.46it/s]
train loss:0.0014052640994558629
84%|███████████████████████████████████████████████████████████████▉ | 10104/12000 [38:55<07:05, 4.46it/s]
train loss:0.001843783904797467
84%|███████████████████████████████████████████████████████████████▉ | 10105/12000 [38:56<07:01, 4.49it/s]
train loss:0.006606578762326296
84%|████████████████████████████████████████████████████████████████ | 10106/12000 [38:56<07:01, 4.49it/s]
train loss:0.006160014829417929
84%|████████████████████████████████████████████████████████████████ | 10107/12000 [38:56<07:01, 4.49it/s]
train loss:0.0035644190590994385
84%|████████████████████████████████████████████████████████████████ | 10108/12000 [38:56<07:00, 4.50it/s]
train loss:0.0004503251641335864
84%|████████████████████████████████████████████████████████████████ | 10109/12000 [38:56<07:00, 4.49it/s]
train loss:0.0014590826114476618
84%|████████████████████████████████████████████████████████████████ | 10110/12000 [38:57<06:55, 4.55it/s]
train loss:0.0007480398445062896
84%|████████████████████████████████████████████████████████████████ | 10111/12000 [38:57<06:57, 4.52it/s]
train loss:0.0019616728405094596
84%|████████████████████████████████████████████████████████████████ | 10112/12000 [38:57<06:58, 4.51it/s]
train loss:0.01539033257570737
84%|████████████████████████████████████████████████████████████████ | 10113/12000 [38:57<06:59, 4.50it/s]
train loss:0.0012385169111334617
84%|████████████████████████████████████████████████████████████████ | 10114/12000 [38:58<07:01, 4.47it/s]
train loss:0.0036696850171620966
84%|████████████████████████████████████████████████████████████████ | 10115/12000 [38:58<07:07, 4.41it/s]
train loss:0.007562464133056191
84%|████████████████████████████████████████████████████████████████ | 10116/12000 [38:58<07:06, 4.42it/s]
train loss:0.0013664316741130672
84%|████████████████████████████████████████████████████████████████ | 10117/12000 [38:58<07:06, 4.41it/s]
train loss:0.0006002786089265477
84%|████████████████████████████████████████████████████████████████ | 10118/12000 [38:59<07:05, 4.43it/s]
train loss:0.0009087060012160918
84%|████████████████████████████████████████████████████████████████ | 10119/12000 [38:59<06:57, 4.51it/s]
train loss:0.0005202695935901865
84%|████████████████████████████████████████████████████████████████ | 10120/12000 [38:59<06:57, 4.51it/s]
train loss:0.0002946186268222435
84%|████████████████████████████████████████████████████████████████ | 10121/12000 [38:59<06:57, 4.50it/s]
train loss:0.0023650205380104992
84%|████████████████████████████████████████████████████████████████ | 10122/12000 [38:59<07:00, 4.47it/s]
train loss:0.0010300069628287043
84%|████████████████████████████████████████████████████████████████ | 10123/12000 [39:00<06:59, 4.47it/s]
train loss:0.0027135107675903248
84%|████████████████████████████████████████████████████████████████ | 10124/12000 [39:00<06:57, 4.50it/s]
train loss:0.0009416408222244359
84%|████████████████████████████████████████████████████████████████▏ | 10125/12000 [39:00<06:58, 4.48it/s]
train loss:0.003468372005231468
84%|████████████████████████████████████████████████████████████████▏ | 10126/12000 [39:00<06:59, 4.47it/s]
train loss:0.005348516273020442
84%|████████████████████████████████████████████████████████████████▏ | 10127/12000 [39:01<07:00, 4.45it/s]
train loss:0.0006737883966557043
84%|████████████████████████████████████████████████████████████████▏ | 10128/12000 [39:01<06:58, 4.48it/s]
train loss:0.0013604583837547226
84%|████████████████████████████████████████████████████████████████▏ | 10129/12000 [39:01<06:59, 4.46it/s]
train loss:0.000578341727434038
84%|████████████████████████████████████████████████████████████████▏ | 10130/12000 [39:01<07:02, 4.43it/s]
train loss:0.004455332420984956
84%|████████████████████████████████████████████████████████████████▏ | 10131/12000 [39:01<07:00, 4.44it/s]
train loss:0.005133986718512724
84%|████████████████████████████████████████████████████████████████▏ | 10132/12000 [39:02<06:58, 4.47it/s]
train loss:0.00036180124036485863
84%|████████████████████████████████████████████████████████████████▏ | 10133/12000 [39:02<06:57, 4.47it/s]
train loss:0.0009264046560188973
84%|████████████████████████████████████████████████████████████████▏ | 10134/12000 [39:02<06:56, 4.48it/s]
train loss:0.022768848424077195
84%|████████████████████████████████████████████████████████████████▏ | 10135/12000 [39:02<06:57, 4.47it/s]
train loss:0.00024167419551054795
84%|████████████████████████████████████████████████████████████████▏ | 10136/12000 [39:03<07:00, 4.43it/s]
train loss:0.0016443437878826829
84%|████████████████████████████████████████████████████████████████▏ | 10137/12000 [39:03<06:54, 4.49it/s]
train loss:0.0018302087539474768
84%|████████████████████████████████████████████████████████████████▏ | 10138/12000 [39:03<06:55, 4.48it/s]
train loss:0.00036939688548459415
84%|████████████████████████████████████████████████████████████████▏ | 10139/12000 [39:03<06:56, 4.47it/s]
train loss:0.00013970204332269112
84%|████████████████████████████████████████████████████████████████▏ | 10140/12000 [39:03<06:55, 4.47it/s]
train loss:0.0007174365093738429
85%|████████████████████████████████████████████████████████████████▏ | 10141/12000 [39:04<06:50, 4.52it/s]
train loss:0.004163295915768006
85%|████████████████████████████████████████████████████████████████▏ | 10142/12000 [39:04<06:51, 4.52it/s]
train loss:0.001112448406684379
85%|████████████████████████████████████████████████████████████████▏ | 10143/12000 [39:04<06:50, 4.52it/s]
train loss:0.0005266648495514579
85%|████████████████████████████████████████████████████████████████▏ | 10144/12000 [39:04<06:53, 4.49it/s]
train loss:0.004788854992389949
85%|████████████████████████████████████████████████████████████████▎ | 10145/12000 [39:05<06:55, 4.46it/s]
train loss:0.007512691813781966
85%|████████████████████████████████████████████████████████████████▎ | 10146/12000 [39:05<06:52, 4.49it/s]
train loss:0.0013989915849661142
85%|████████████████████████████████████████████████████████████████▎ | 10147/12000 [39:05<06:53, 4.48it/s]
train loss:0.0006525358342528687
85%|████████████████████████████████████████████████████████████████▎ | 10148/12000 [39:05<06:51, 4.50it/s]
train loss:0.00016803761369954258
85%|████████████████████████████████████████████████████████████████▎ | 10149/12000 [39:05<06:53, 4.47it/s]
train loss:0.00048090007265121033
85%|████████████████████████████████████████████████████████████████▎ | 10150/12000 [39:06<06:48, 4.53it/s]
train loss:0.0019490394293084567
85%|████████████████████████████████████████████████████████████████▎ | 10151/12000 [39:06<06:49, 4.51it/s]
train loss:0.0004630858472996077
85%|████████████████████████████████████████████████████████████████▎ | 10152/12000 [39:06<06:51, 4.49it/s]
train loss:0.0020953300964547013
85%|████████████████████████████████████████████████████████████████▎ | 10153/12000 [39:06<06:51, 4.49it/s]
train loss:0.008263945090620306
85%|████████████████████████████████████████████████████████████████▎ | 10154/12000 [39:07<06:54, 4.46it/s]
train loss:0.002646267922095576
85%|████████████████████████████████████████████████████████████████▎ | 10155/12000 [39:07<06:48, 4.51it/s]
train loss:0.0024701648187730133
85%|████████████████████████████████████████████████████████████████▎ | 10156/12000 [39:07<06:51, 4.49it/s]
train loss:0.008118094077481111
85%|████████████████████████████████████████████████████████████████▎ | 10157/12000 [39:07<06:51, 4.48it/s]
train loss:0.0006788665071662988
85%|████████████████████████████████████████████████████████████████▎ | 10158/12000 [39:07<06:51, 4.47it/s]
train loss:0.0009630264428294013
85%|████████████████████████████████████████████████████████████████▎ | 10159/12000 [39:08<06:46, 4.53it/s]
train loss:0.002645300330550532
85%|████████████████████████████████████████████████████████████████▎ | 10160/12000 [39:08<06:48, 4.51it/s]
train loss:0.0007433142652443262
85%|████████████████████████████████████████████████████████████████▎ | 10161/12000 [39:08<06:49, 4.49it/s]
train loss:0.007422210557548136
85%|████████████████████████████████████████████████████████████████▎ | 10162/12000 [39:08<06:50, 4.47it/s]
train loss:0.003912728478751353
85%|████████████████████████████████████████████████████████████████▎ | 10163/12000 [39:09<06:51, 4.46it/s]
train loss:0.0025954596718496493
85%|████████████████████████████████████████████████████████████████▎ | 10164/12000 [39:09<06:47, 4.51it/s]
train loss:0.00021719567238299796
85%|████████████████████████████████████████████████████████████████▍ | 10165/12000 [39:09<06:48, 4.49it/s]
train loss:0.002162967763735581
85%|████████████████████████████████████████████████████████████████▍ | 10166/12000 [39:09<06:49, 4.48it/s]
train loss:0.001514649022674453
85%|████████████████████████████████████████████████████████████████▍ | 10167/12000 [39:09<06:49, 4.47it/s]
train loss:0.0025678278790280335
85%|████████████████████████████████████████████████████████████████▍ | 10168/12000 [39:10<06:44, 4.53it/s]
train loss:0.002655080146513056
85%|████████████████████████████████████████████████████████████████▍ | 10169/12000 [39:10<06:47, 4.50it/s]
train loss:0.007589209055419869
85%|████████████████████████████████████████████████████████████████▍ | 10170/12000 [39:10<06:47, 4.49it/s]
train loss:0.0023050915168425796
85%|████████████████████████████████████████████████████████████████▍ | 10171/12000 [39:10<06:48, 4.48it/s]
train loss:0.0021623276200076784
85%|████████████████████████████████████████████████████████████████▍ | 10172/12000 [39:11<06:47, 4.48it/s]
train loss:0.0002506073982573516
85%|████████████████████████████████████████████████████████████████▍ | 10173/12000 [39:11<06:43, 4.52it/s]
train loss:0.005281636909133817
85%|████████████████████████████████████████████████████████████████▍ | 10174/12000 [39:11<06:47, 4.48it/s]
train loss:0.00025912536881992824
85%|████████████████████████████████████████████████████████████████▍ | 10175/12000 [39:11<06:48, 4.46it/s]
train loss:0.000908403172145741
85%|████████████████████████████████████████████████████████████████▍ | 10176/12000 [39:11<06:47, 4.48it/s]
train loss:0.002384922287161719
85%|████████████████████████████████████████████████████████████████▍ | 10177/12000 [39:12<06:43, 4.51it/s]
train loss:0.0004021258242524567
85%|████████████████████████████████████████████████████████████████▍ | 10178/12000 [39:12<06:46, 4.48it/s]
train loss:0.0015871377016390973
85%|████████████████████████████████████████████████████████████████▍ | 10179/12000 [39:12<06:46, 4.48it/s]
train loss:0.0006472168115046447
85%|████████████████████████████████████████████████████████████████▍ | 10180/12000 [39:12<06:47, 4.47it/s]
train loss:0.008800061702021446
85%|████████████████████████████████████████████████████████████████▍ | 10181/12000 [39:13<06:47, 4.47it/s]
train loss:0.0004609659352386028
85%|████████████████████████████████████████████████████████████████▍ | 10182/12000 [39:13<06:43, 4.51it/s]
train loss:0.0007947728226245139
85%|████████████████████████████████████████████████████████████████▍ | 10183/12000 [39:13<06:46, 4.46it/s]
train loss:0.0009859910650529733
85%|████████████████████████████████████████████████████████████████▍ | 10184/12000 [39:13<06:50, 4.42it/s]
train loss:0.0008499813799214411
85%|████████████████████████████████████████████████████████████████▌ | 10185/12000 [39:13<06:49, 4.43it/s]
train loss:0.0001765898741847877
85%|████████████████████████████████████████████████████████████████▌ | 10186/12000 [39:14<06:45, 4.47it/s]
train loss:0.0018178868111389356
85%|████████████████████████████████████████████████████████████████▌ | 10187/12000 [39:14<06:48, 4.44it/s]
train loss:0.0033614355733272354
85%|████████████████████████████████████████████████████████████████▌ | 10188/12000 [39:14<06:48, 4.43it/s]
train loss:7.940431777696617e-05
85%|████████████████████████████████████████████████████████████████▌ | 10189/12000 [39:14<06:46, 4.45it/s]
train loss:0.00017057937328199507
85%|████████████████████████████████████████████████████████████████▌ | 10190/12000 [39:15<06:49, 4.42it/s]
train loss:0.00038756095710535917
85%|████████████████████████████████████████████████████████████████▌ | 10191/12000 [39:15<06:44, 4.47it/s]
train loss:0.0009248882991029642
85%|████████████████████████████████████████████████████████████████▌ | 10192/12000 [39:15<06:46, 4.45it/s]
train loss:0.00019910106565444014
85%|████████████████████████████████████████████████████████████████▌ | 10193/12000 [39:15<06:44, 4.47it/s]
train loss:0.00315813415178588
85%|████████████████████████████████████████████████████████████████▌ | 10194/12000 [39:15<06:44, 4.46it/s]
train loss:0.00020946272254489872
85%|████████████████████████████████████████████████████████████████▌ | 10195/12000 [39:16<06:47, 4.43it/s]
train loss:0.0008181754883223402
85%|████████████████████████████████████████████████████████████████▌ | 10196/12000 [39:16<06:48, 4.42it/s]
train loss:0.0018820242087634372
85%|████████████████████████████████████████████████████████████████▌ | 10197/12000 [39:16<06:57, 4.32it/s]
train loss:0.0019292800999222677
85%|████████████████████████████████████████████████████████████████▌ | 10198/12000 [39:16<06:54, 4.35it/s]
train loss:0.0014468257379589488
85%|████████████████████████████████████████████████████████████████▌ | 10199/12000 [39:17<06:54, 4.34it/s]
train loss:0.0006013269437445799
85%|████████████████████████████████████████████████████████████████▌ | 10200/12000 [39:17<06:50, 4.38it/s]
train loss:0.0035736636458985 train loss:0.008092646690378475
85%|████████████████████████████████████████████████████████████████▌ | 10201/12000 [39:19<20:53, 1.44it/s]
=== epoch:18, train acc:1.0, test acc:0.987 ===
85%|████████████████████████████████████████████████████████████████▌ | 10202/12000 [39:19<16:41, 1.80it/s]
train loss:0.0008260436982289615
85%|████████████████████████████████████████████████████████████████▌ | 10203/12000 [39:19<13:42, 2.19it/s]
train loss:0.0046942546554484795
85%|████████████████████████████████████████████████████████████████▋ | 10204/12000 [39:19<11:35, 2.58it/s]
train loss:0.0023770438267935678
85%|████████████████████████████████████████████████████████████████▋ | 10205/12000 [39:20<10:09, 2.95it/s]
train loss:0.0030317568497490273
85%|████████████████████████████████████████████████████████████████▋ | 10206/12000 [39:20<09:01, 3.31it/s]
train loss:0.0005600036816451847
85%|████████████████████████████████████████████████████████████████▋ | 10207/12000 [39:20<08:20, 3.58it/s]
train loss:0.0008792396473266697
85%|████████████████████████████████████████████████████████████████▋ | 10208/12000 [39:20<07:49, 3.81it/s]
train loss:0.0010768484590691968
85%|████████████████████████████████████████████████████████████████▋ | 10209/12000 [39:20<07:31, 3.97it/s]
train loss:0.0006621874670505047
85%|████████████████████████████████████████████████████████████████▋ | 10210/12000 [39:21<07:16, 4.10it/s]
train loss:0.00018033528299045954
85%|████████████████████████████████████████████████████████████████▋ | 10211/12000 [39:21<07:05, 4.20it/s]
train loss:0.0010468962347190778
85%|████████████████████████████████████████████████████████████████▋ | 10212/12000 [39:21<06:58, 4.27it/s]
train loss:0.00046201913428260395
85%|████████████████████████████████████████████████████████████████▋ | 10213/12000 [39:21<06:53, 4.32it/s]
train loss:0.0020575581635139764
85%|████████████████████████████████████████████████████████████████▋ | 10214/12000 [39:22<06:49, 4.37it/s]
train loss:0.013670880747961491
85%|████████████████████████████████████████████████████████████████▋ | 10215/12000 [39:22<06:47, 4.38it/s]
train loss:0.002253441658753672
85%|████████████████████████████████████████████████████████████████▋ | 10216/12000 [39:22<06:46, 4.39it/s]
train loss:0.0018909589605885645
85%|████████████████████████████████████████████████████████████████▋ | 10217/12000 [39:22<06:45, 4.39it/s]
train loss:0.0008522600737670618
85%|████████████████████████████████████████████████████████████████▋ | 10218/12000 [39:22<06:45, 4.39it/s]
train loss:9.225057245138536e-05
85%|████████████████████████████████████████████████████████████████▋ | 10219/12000 [39:23<06:40, 4.44it/s]
train loss:0.0007375249740160587
85%|████████████████████████████████████████████████████████████████▋ | 10220/12000 [39:23<06:42, 4.42it/s]
train loss:0.0003540821151250939
85%|████████████████████████████████████████████████████████████████▋ | 10221/12000 [39:23<06:43, 4.41it/s]
train loss:0.013633459302998287
85%|████████████████████████████████████████████████████████████████▋ | 10222/12000 [39:23<06:42, 4.41it/s]
train loss:0.0031520750712140683
85%|████████████████████████████████████████████████████████████████▋ | 10223/12000 [39:24<06:40, 4.44it/s]
train loss:0.0004051740683669669
85%|████████████████████████████████████████████████████████████████▊ | 10224/12000 [39:24<06:40, 4.43it/s]
train loss:5.689501095828635e-05
85%|████████████████████████████████████████████████████████████████▊ | 10225/12000 [39:24<06:43, 4.40it/s]
train loss:0.0006448745048783802
85%|████████████████████████████████████████████████████████████████▊ | 10226/12000 [39:24<06:43, 4.40it/s]
train loss:0.00021010047300141222
85%|████████████████████████████████████████████████████████████████▊ | 10227/12000 [39:25<06:44, 4.39it/s]
train loss:0.0014512430828318096
85%|████████████████████████████████████████████████████████████████▊ | 10228/12000 [39:25<06:38, 4.45it/s]
train loss:0.0004989509368004886
85%|████████████████████████████████████████████████████████████████▊ | 10229/12000 [39:25<06:39, 4.43it/s]
train loss:0.001707695619509977
85%|████████████████████████████████████████████████████████████████▊ | 10230/12000 [39:25<07:06, 4.15it/s]
train loss:0.0008125297746650933
85%|████████████████████████████████████████████████████████████████▊ | 10231/12000 [39:25<07:03, 4.18it/s]
train loss:0.0006780867517106704
85%|████████████████████████████████████████████████████████████████▊ | 10232/12000 [39:26<06:52, 4.29it/s]
train loss:0.001837746488576163
85%|████████████████████████████████████████████████████████████████▊ | 10233/12000 [39:26<06:47, 4.34it/s]
train loss:0.007889950945777715
85%|████████████████████████████████████████████████████████████████▊ | 10234/12000 [39:26<06:45, 4.35it/s]
train loss:8.839261224732515e-05
85%|████████████████████████████████████████████████████████████████▊ | 10235/12000 [39:26<06:43, 4.37it/s]
train loss:0.017049631802191614
85%|████████████████████████████████████████████████████████████████▊ | 10236/12000 [39:27<06:47, 4.33it/s]
train loss:0.0006475096417718637
85%|████████████████████████████████████████████████████████████████▊ | 10237/12000 [39:27<06:43, 4.37it/s]
train loss:0.001045582641535556
85%|████████████████████████████████████████████████████████████████▊ | 10238/12000 [39:27<06:41, 4.39it/s]
train loss:0.001244588222244798
85%|████████████████████████████████████████████████████████████████▊ | 10239/12000 [39:27<06:40, 4.40it/s]
train loss:0.0004886695521709541
85%|████████████████████████████████████████████████████████████████▊ | 10240/12000 [39:28<06:38, 4.42it/s]
train loss:0.0006331700606363713
85%|████████████████████████████████████████████████████████████████▊ | 10241/12000 [39:28<06:33, 4.47it/s]
train loss:0.0002093316570896251
85%|████████████████████████████████████████████████████████████████▊ | 10242/12000 [39:28<06:32, 4.48it/s]
train loss:0.002189255105241611
85%|████████████████████████████████████████████████████████████████▊ | 10243/12000 [39:28<06:32, 4.48it/s]
train loss:0.00035011561824617216
85%|████████████████████████████████████████████████████████████████▉ | 10244/12000 [39:28<06:31, 4.48it/s]
train loss:0.0023433228560033035
85%|████████████████████████████████████████████████████████████████▉ | 10245/12000 [39:29<06:28, 4.51it/s]
train loss:0.00039174444443813237
85%|████████████████████████████████████████████████████████████████▉ | 10246/12000 [39:29<06:30, 4.49it/s]
train loss:0.014696234877574786
85%|████████████████████████████████████████████████████████████████▉ | 10247/12000 [39:29<06:31, 4.48it/s]
train loss:0.000400058078887588
85%|████████████████████████████████████████████████████████████████▉ | 10248/12000 [39:29<06:31, 4.47it/s]
train loss:0.002686453488964289
85%|████████████████████████████████████████████████████████████████▉ | 10249/12000 [39:30<06:32, 4.46it/s]
train loss:4.060722099105043e-05
85%|████████████████████████████████████████████████████████████████▉ | 10250/12000 [39:30<06:28, 4.50it/s]
train loss:0.0007402051311365941
85%|████████████████████████████████████████████████████████████████▉ | 10251/12000 [39:30<06:30, 4.48it/s]
train loss:0.0020178422131437767
85%|████████████████████████████████████████████████████████████████▉ | 10252/12000 [39:30<06:31, 4.47it/s]
train loss:0.0032932348390193843
85%|████████████████████████████████████████████████████████████████▉ | 10253/12000 [39:30<06:32, 4.46it/s]
train loss:0.000741245942044364
85%|████████████████████████████████████████████████████████████████▉ | 10254/12000 [39:31<06:30, 4.48it/s]
train loss:0.0016750129068966537
85%|████████████████████████████████████████████████████████████████▉ | 10255/12000 [39:31<06:28, 4.50it/s]
train loss:0.00011115043272743303
85%|████████████████████████████████████████████████████████████████▉ | 10256/12000 [39:31<06:31, 4.46it/s]
train loss:0.0015817045404083673
85%|████████████████████████████████████████████████████████████████▉ | 10257/12000 [39:31<06:31, 4.45it/s]
train loss:0.0028820997443454975
85%|████████████████████████████████████████████████████████████████▉ | 10258/12000 [39:32<06:30, 4.46it/s]
train loss:0.00024387525089222
85%|████████████████████████████████████████████████████████████████▉ | 10259/12000 [39:32<06:25, 4.52it/s]
train loss:0.002995975542128967
86%|████████████████████████████████████████████████████████████████▉ | 10260/12000 [39:32<06:26, 4.50it/s]
train loss:0.0016310148786330323
86%|████████████████████████████████████████████████████████████████▉ | 10261/12000 [39:32<06:29, 4.47it/s]
train loss:0.0426990167849711
86%|████████████████████████████████████████████████████████████████▉ | 10262/12000 [39:32<06:29, 4.47it/s]
train loss:0.0004408177740282315
86%|████████████████████████████████████████████████████████████████▉ | 10263/12000 [39:33<06:30, 4.45it/s]
train loss:0.0054339444184411225
86%|█████████████████████████████████████████████████████████████████ | 10264/12000 [39:33<06:25, 4.50it/s]
train loss:0.0019660496160532888
86%|█████████████████████████████████████████████████████████████████ | 10265/12000 [39:33<06:26, 4.49it/s]
train loss:0.002709022843767871
86%|█████████████████████████████████████████████████████████████████ | 10266/12000 [39:33<06:28, 4.46it/s]
train loss:0.0007291309117926321
86%|█████████████████████████████████████████████████████████████████ | 10267/12000 [39:34<06:28, 4.46it/s]
train loss:0.0003131721828394834
86%|█████████████████████████████████████████████████████████████████ | 10268/12000 [39:34<06:27, 4.47it/s]
train loss:0.00011448239845185326
86%|█████████████████████████████████████████████████████████████████ | 10269/12000 [39:34<06:26, 4.48it/s]
train loss:0.0016111434624899565
86%|█████████████████████████████████████████████████████████████████ | 10270/12000 [39:34<06:26, 4.47it/s]
train loss:0.0023273204827246406
86%|█████████████████████████████████████████████████████████████████ | 10271/12000 [39:34<06:26, 4.48it/s]
train loss:0.0016617868276436363
86%|█████████████████████████████████████████████████████████████████ | 10272/12000 [39:35<06:22, 4.52it/s]
train loss:0.000448264395840364
86%|█████████████████████████████████████████████████████████████████ | 10273/12000 [39:35<06:24, 4.49it/s]
train loss:0.0031257249225819083
86%|█████████████████████████████████████████████████████████████████ | 10274/12000 [39:35<06:25, 4.48it/s]
train loss:0.002013571146921403
86%|█████████████████████████████████████████████████████████████████ | 10275/12000 [39:35<06:28, 4.44it/s]
train loss:9.794616208828671e-05
86%|█████████████████████████████████████████████████████████████████ | 10276/12000 [39:36<06:26, 4.46it/s]
train loss:0.0006629319333334736
86%|█████████████████████████████████████████████████████████████████ | 10277/12000 [39:36<06:21, 4.51it/s]
train loss:0.0003431478980471557
86%|█████████████████████████████████████████████████████████████████ | 10278/12000 [39:36<06:21, 4.51it/s]
train loss:0.0008713014450554261
86%|█████████████████████████████████████████████████████████████████ | 10279/12000 [39:36<06:23, 4.48it/s]
train loss:0.00015781250935891343
86%|█████████████████████████████████████████████████████████████████ | 10280/12000 [39:36<06:23, 4.48it/s]
train loss:0.004477791449864922
86%|█████████████████████████████████████████████████████████████████ | 10281/12000 [39:37<06:19, 4.53it/s]
train loss:0.000893579154244974
86%|█████████████████████████████████████████████████████████████████ | 10282/12000 [39:37<06:21, 4.51it/s]
train loss:0.0005119763529318475
86%|█████████████████████████████████████████████████████████████████▏ | 10283/12000 [39:37<06:22, 4.49it/s]
train loss:0.001646944915059429
86%|█████████████████████████████████████████████████████████████████▏ | 10284/12000 [39:37<06:23, 4.47it/s]
train loss:0.02815027802147195
86%|█████████████████████████████████████████████████████████████████▏ | 10285/12000 [39:38<06:24, 4.46it/s]
train loss:0.0008133788858913227
86%|█████████████████████████████████████████████████████████████████▏ | 10286/12000 [39:38<06:22, 4.48it/s]
train loss:0.0018237114907572508
86%|█████████████████████████████████████████████████████████████████▏ | 10287/12000 [39:38<06:22, 4.48it/s]
train loss:0.0010282721613039472
86%|█████████████████████████████████████████████████████████████████▏ | 10288/12000 [39:38<06:21, 4.49it/s]
train loss:0.00027143557791758173
86%|█████████████████████████████████████████████████████████████████▏ | 10289/12000 [39:38<06:22, 4.48it/s]
train loss:2.76196876488071e-05
86%|█████████████████████████████████████████████████████████████████▏ | 10290/12000 [39:39<06:18, 4.52it/s]
train loss:0.004468181315484505
86%|█████████████████████████████████████████████████████████████████▏ | 10291/12000 [39:39<06:18, 4.52it/s]
train loss:3.316078708963202e-05
86%|█████████████████████████████████████████████████████████████████▏ | 10292/12000 [39:39<06:19, 4.51it/s]
train loss:0.0010263113663060682
86%|█████████████████████████████████████████████████████████████████▏ | 10293/12000 [39:39<06:19, 4.50it/s]
train loss:0.001984420244888369
86%|█████████████████████████████████████████████████████████████████▏ | 10294/12000 [39:40<06:20, 4.49it/s]
train loss:0.0003457032796448388
86%|█████████████████████████████████████████████████████████████████▏ | 10295/12000 [39:40<06:15, 4.54it/s]
train loss:0.005437115430965715
86%|█████████████████████████████████████████████████████████████████▏ | 10296/12000 [39:40<06:16, 4.53it/s]
train loss:0.00031162793751017147
86%|█████████████████████████████████████████████████████████████████▏ | 10297/12000 [39:40<06:19, 4.49it/s]
train loss:0.001980291380296552
86%|█████████████████████████████████████████████████████████████████▏ | 10299/12000 [39:41<06:14, 4.55it/s]
train loss:0.0006817656690639488 train loss:7.517798852904268e-05
86%|█████████████████████████████████████████████████████████████████▏ | 10300/12000 [39:41<06:15, 4.53it/s]
train loss:0.0011104110364890149
86%|█████████████████████████████████████████████████████████████████▏ | 10301/12000 [39:41<06:16, 4.51it/s]
train loss:0.003245093530327873
86%|█████████████████████████████████████████████████████████████████▏ | 10302/12000 [39:41<06:19, 4.48it/s]
train loss:0.0006463923620560941
86%|█████████████████████████████████████████████████████████████████▎ | 10303/12000 [39:42<06:24, 4.42it/s]
train loss:0.0008363668339558393
86%|█████████████████████████████████████████████████████████████████▎ | 10304/12000 [39:42<06:19, 4.47it/s]
train loss:8.009893068925349e-05
86%|█████████████████████████████████████████████████████████████████▎ | 10305/12000 [39:42<06:21, 4.44it/s]
train loss:0.0011190501627200812
86%|█████████████████████████████████████████████████████████████████▎ | 10306/12000 [39:42<06:21, 4.44it/s]
train loss:0.0011406691396319342
86%|█████████████████████████████████████████████████████████████████▎ | 10307/12000 [39:42<06:21, 4.44it/s]
train loss:0.0014144267959869136
86%|█████████████████████████████████████████████████████████████████▎ | 10308/12000 [39:43<06:17, 4.48it/s]
train loss:0.0001468516100865226
86%|█████████████████████████████████████████████████████████████████▎ | 10309/12000 [39:43<06:18, 4.46it/s]
train loss:0.0025790157651634483
86%|█████████████████████████████████████████████████████████████████▎ | 10310/12000 [39:43<06:20, 4.44it/s]
train loss:0.0006779403935874196
86%|█████████████████████████████████████████████████████████████████▎ | 10311/12000 [39:43<06:20, 4.44it/s]
train loss:0.0008047558179032087
86%|█████████████████████████████████████████████████████████████████▎ | 10312/12000 [39:44<06:17, 4.47it/s]
train loss:0.0001173443597765915
86%|█████████████████████████████████████████████████████████████████▎ | 10313/12000 [39:44<06:16, 4.48it/s]
train loss:0.0008246048250845277
86%|█████████████████████████████████████████████████████████████████▎ | 10314/12000 [39:44<06:17, 4.47it/s]
train loss:0.0004415395660986935
86%|█████████████████████████████████████████████████████████████████▎ | 10315/12000 [39:44<06:22, 4.40it/s]
train loss:0.0012081790419795728
86%|█████████████████████████████████████████████████████████████████▎ | 10316/12000 [39:44<06:22, 4.41it/s]
train loss:0.0004807086866130269
86%|█████████████████████████████████████████████████████████████████▎ | 10317/12000 [39:45<06:15, 4.48it/s]
train loss:0.0007980521734084358
86%|█████████████████████████████████████████████████████████████████▎ | 10318/12000 [39:45<06:16, 4.47it/s]
train loss:0.0036304986716910997
86%|█████████████████████████████████████████████████████████████████▎ | 10319/12000 [39:45<06:16, 4.46it/s]
train loss:0.0005780536682616825
86%|█████████████████████████████████████████████████████████████████▎ | 10320/12000 [39:45<06:16, 4.46it/s]
train loss:0.0018073572752936194
86%|█████████████████████████████████████████████████████████████████▎ | 10321/12000 [39:46<06:14, 4.49it/s]
train loss:0.0003092042528972147
86%|█████████████████████████████████████████████████████████████████▎ | 10322/12000 [39:46<06:12, 4.51it/s]
train loss:0.0005827851347086307
86%|█████████████████████████████████████████████████████████████████▍ | 10323/12000 [39:46<06:11, 4.51it/s]
train loss:0.000957261829130682
86%|█████████████████████████████████████████████████████████████████▍ | 10324/12000 [39:46<06:17, 4.44it/s]
train loss:0.00033823253465307105
86%|█████████████████████████████████████████████████████████████████▍ | 10325/12000 [39:46<06:16, 4.44it/s]
train loss:0.0018514525245880255
86%|█████████████████████████████████████████████████████████████████▍ | 10326/12000 [39:47<06:11, 4.50it/s]
train loss:0.0015984722147680275
86%|█████████████████████████████████████████████████████████████████▍ | 10327/12000 [39:47<06:10, 4.51it/s]
train loss:0.000874719186240936
86%|█████████████████████████████████████████████████████████████████▍ | 10328/12000 [39:47<06:12, 4.49it/s]
train loss:0.0013730461844793987
86%|█████████████████████████████████████████████████████████████████▍ | 10329/12000 [39:47<06:14, 4.46it/s]
train loss:0.0026216283299191558
86%|█████████████████████████████████████████████████████████████████▍ | 10330/12000 [39:48<06:14, 4.46it/s]
train loss:0.002046609268978886
86%|█████████████████████████████████████████████████████████████████▍ | 10331/12000 [39:48<06:13, 4.47it/s]
train loss:0.0010071055700342226
86%|█████████████████████████████████████████████████████████████████▍ | 10332/12000 [39:48<06:14, 4.46it/s]
train loss:0.00037909016158529566
86%|█████████████████████████████████████████████████████████████████▍ | 10333/12000 [39:48<06:15, 4.44it/s]
train loss:0.001471696762919105
86%|█████████████████████████████████████████████████████████████████▍ | 10334/12000 [39:48<06:16, 4.43it/s]
train loss:0.05588526296710153
86%|█████████████████████████████████████████████████████████████████▍ | 10335/12000 [39:49<06:11, 4.48it/s]
train loss:0.0005995418572399957
86%|█████████████████████████████████████████████████████████████████▍ | 10336/12000 [39:49<06:10, 4.49it/s]
train loss:0.0016291465426268264
86%|█████████████████████████████████████████████████████████████████▍ | 10337/12000 [39:49<06:10, 4.49it/s]
train loss:0.0009299013453259655
86%|█████████████████████████████████████████████████████████████████▍ | 10338/12000 [39:49<06:09, 4.49it/s]
train loss:0.0012889615388462403
86%|█████████████████████████████████████████████████████████████████▍ | 10339/12000 [39:50<06:07, 4.52it/s]
train loss:0.0005335138896726664
86%|█████████████████████████████████████████████████████████████████▍ | 10340/12000 [39:50<06:06, 4.53it/s]
train loss:0.00026172844001550106
86%|█████████████████████████████████████████████████████████████████▍ | 10341/12000 [39:50<06:06, 4.53it/s]
train loss:0.00046990722278767496
86%|█████████████████████████████████████████████████████████████████▍ | 10342/12000 [39:50<06:07, 4.51it/s]
train loss:0.0011175225040550517
86%|█████████████████████████████████████████████████████████████████▌ | 10343/12000 [39:50<06:07, 4.50it/s]
train loss:0.00034617009620059
86%|█████████████████████████████████████████████████████████████████▌ | 10344/12000 [39:51<06:04, 4.55it/s]
train loss:0.003643510981437785
86%|█████████████████████████████████████████████████████████████████▌ | 10345/12000 [39:51<06:05, 4.53it/s]
train loss:0.004059580987796957
86%|█████████████████████████████████████████████████████████████████▌ | 10346/12000 [39:51<06:06, 4.51it/s]
train loss:0.0005094510189691619
86%|█████████████████████████████████████████████████████████████████▌ | 10347/12000 [39:51<06:06, 4.51it/s]
train loss:0.0004702307420313749
86%|█████████████████████████████████████████████████████████████████▌ | 10348/12000 [39:52<06:06, 4.51it/s]
train loss:0.0018981444696067695
86%|█████████████████████████████████████████████████████████████████▌ | 10349/12000 [39:52<06:05, 4.52it/s]
train loss:0.005575122620036914
86%|█████████████████████████████████████████████████████████████████▌ | 10350/12000 [39:52<06:04, 4.52it/s]
train loss:2.915272016078177e-05
86%|█████████████████████████████████████████████████████████████████▌ | 10351/12000 [39:52<06:05, 4.51it/s]
train loss:0.0005751048409647007
86%|█████████████████████████████████████████████████████████████████▌ | 10353/12000 [39:53<06:01, 4.56it/s]
train loss:0.0004673107307819993 train loss:0.0017838540401779437
86%|█████████████████████████████████████████████████████████████████▌ | 10354/12000 [39:53<06:02, 4.54it/s]
train loss:0.007852062870108582
86%|█████████████████████████████████████████████████████████████████▌ | 10355/12000 [39:53<06:03, 4.53it/s]
train loss:0.0005066898518382394
86%|█████████████████████████████████████████████████████████████████▌ | 10356/12000 [39:53<06:03, 4.52it/s]
train loss:0.0021386585560583564
86%|█████████████████████████████████████████████████████████████████▌ | 10357/12000 [39:54<06:03, 4.51it/s]
train loss:0.00013162729687581423
86%|█████████████████████████████████████████████████████████████████▌ | 10358/12000 [39:54<06:01, 4.54it/s]
train loss:0.0018129863434645363
86%|█████████████████████████████████████████████████████████████████▌ | 10359/12000 [39:54<06:02, 4.53it/s]
train loss:0.0013952952441880482
86%|█████████████████████████████████████████████████████████████████▌ | 10360/12000 [39:54<06:03, 4.52it/s]
train loss:0.0001675211692040488
86%|█████████████████████████████████████████████████████████████████▌ | 10361/12000 [39:54<06:03, 4.51it/s]
train loss:0.0008407818890226314
86%|█████████████████████████████████████████████████████████████████▋ | 10363/12000 [39:55<05:51, 4.66it/s]
train loss:0.00045066261121358815 train loss:0.002309453233983153
86%|█████████████████████████████████████████████████████████████████▋ | 10365/12000 [39:55<05:41, 4.79it/s]
train loss:0.0003163377482770426 train loss:0.0009867924684282177
86%|█████████████████████████████████████████████████████████████████▋ | 10366/12000 [39:55<05:38, 4.83it/s]
train loss:8.5633236285543e-05
86%|█████████████████████████████████████████████████████████████████▋ | 10367/12000 [39:56<05:37, 4.84it/s]
train loss:0.001839599514346569
86%|█████████████████████████████████████████████████████████████████▋ | 10368/12000 [39:56<05:37, 4.84it/s]
train loss:0.00016964793487726695
86%|█████████████████████████████████████████████████████████████████▋ | 10369/12000 [39:56<05:40, 4.79it/s]
train loss:0.0007731230412007195
86%|█████████████████████████████████████████████████████████████████▋ | 10370/12000 [39:56<05:40, 4.78it/s]
train loss:0.02596746876236754
86%|█████████████████████████████████████████████████████████████████▋ | 10371/12000 [39:57<05:44, 4.73it/s]
train loss:8.33222708179472e-05
86%|█████████████████████████████████████████████████████████████████▋ | 10372/12000 [39:57<05:44, 4.73it/s]
train loss:0.000496778370430164
86%|█████████████████████████████████████████████████████████████████▋ | 10373/12000 [39:57<05:46, 4.70it/s]
train loss:0.0077827647010844
86%|█████████████████████████████████████████████████████████████████▋ | 10374/12000 [39:57<05:47, 4.68it/s]
train loss:0.0007254715466470954
86%|█████████████████████████████████████████████████████████████████▋ | 10375/12000 [39:57<05:49, 4.64it/s]
train loss:0.0004481838352053669
86%|█████████████████████████████████████████████████████████████████▋ | 10376/12000 [39:58<05:46, 4.69it/s]
train loss:0.00040839526631812693
86%|█████████████████████████████████████████████████████████████████▋ | 10377/12000 [39:58<05:45, 4.69it/s]
train loss:0.005593965401048511
86%|█████████████████████████████████████████████████████████████████▋ | 10378/12000 [39:58<05:45, 4.70it/s]
train loss:0.000282431602335532
86%|█████████████████████████████████████████████████████████████████▋ | 10379/12000 [39:58<05:45, 4.69it/s]
train loss:0.0014384924274638711
86%|█████████████████████████████████████████████████████████████████▋ | 10380/12000 [39:58<05:47, 4.67it/s]
train loss:0.06656894343302286 train loss:0.0028545613470499615
87%|█████████████████████████████████████████████████████████████████▊ | 10382/12000 [39:59<05:44, 4.70it/s]
train loss:0.0031742467754344106
87%|█████████████████████████████████████████████████████████████████▊ | 10383/12000 [39:59<05:59, 4.49it/s]
train loss:0.0006462076900658261
87%|█████████████████████████████████████████████████████████████████▊ | 10384/12000 [39:59<06:17, 4.28it/s]
train loss:0.0014310603451402437
87%|█████████████████████████████████████████████████████████████████▊ | 10385/12000 [40:00<06:10, 4.36it/s]
train loss:0.000813498581569956
87%|█████████████████████████████████████████████████████████████████▊ | 10386/12000 [40:00<06:00, 4.48it/s]
train loss:0.012353739625369082
87%|█████████████████████████████████████████████████████████████████▊ | 10387/12000 [40:00<05:54, 4.55it/s]
train loss:0.0008971317988785406
87%|█████████████████████████████████████████████████████████████████▊ | 10389/12000 [40:00<05:47, 4.64it/s]
train loss:0.0018762328128812706 train loss:0.0004179515679472063
87%|█████████████████████████████████████████████████████████████████▊ | 10390/12000 [40:01<05:43, 4.68it/s]
train loss:0.00011189027780100825
87%|█████████████████████████████████████████████████████████████████▊ | 10391/12000 [40:01<05:42, 4.70it/s]
train loss:0.000963197232952319
87%|█████████████████████████████████████████████████████████████████▊ | 10392/12000 [40:01<05:45, 4.65it/s]
train loss:0.0002342292063415378
87%|█████████████████████████████████████████████████████████████████▊ | 10393/12000 [40:01<05:43, 4.68it/s]
train loss:0.0007363519057156595
87%|█████████████████████████████████████████████████████████████████▊ | 10394/12000 [40:02<05:43, 4.67it/s]
train loss:0.004337565187538706 train loss:0.0032573503905878633
87%|█████████████████████████████████████████████████████████████████▊ | 10396/12000 [40:02<05:38, 4.74it/s]
train loss:0.00203749739419453
87%|█████████████████████████████████████████████████████████████████▊ | 10398/12000 [40:02<05:39, 4.72it/s]
train loss:0.001898991704251404 train loss:0.004162538363822851
87%|█████████████████████████████████████████████████████████████████▊ | 10399/12000 [40:03<05:38, 4.73it/s]
train loss:0.0006825552517180241
87%|█████████████████████████████████████████████████████████████████▊ | 10400/12000 [40:03<05:38, 4.72it/s]
train loss:0.0002960243034477595
87%|█████████████████████████████████████████████████████████████████▉ | 10402/12000 [40:03<05:37, 4.73it/s]
train loss:0.0030640766130621967 train loss:0.0001613921621970056
87%|█████████████████████████████████████████████████████████████████▉ | 10404/12000 [40:04<05:34, 4.77it/s]
train loss:0.004245623935638293 train loss:0.0003550359131080666
87%|█████████████████████████████████████████████████████████████████▉ | 10405/12000 [40:04<05:35, 4.75it/s]
train loss:0.0041616247541562505
87%|█████████████████████████████████████████████████████████████████▉ | 10406/12000 [40:04<05:36, 4.74it/s]
train loss:0.00239454981617023
87%|█████████████████████████████████████████████████████████████████▉ | 10407/12000 [40:04<05:37, 4.73it/s]
train loss:0.0032397076333535247
87%|█████████████████████████████████████████████████████████████████▉ | 10408/12000 [40:04<05:37, 4.72it/s]
train loss:0.001438096836002601
87%|█████████████████████████████████████████████████████████████████▉ | 10409/12000 [40:05<05:37, 4.72it/s]
train loss:0.0014711541743042003
87%|█████████████████████████████████████████████████████████████████▉ | 10410/12000 [40:05<05:39, 4.68it/s]
train loss:0.0006596795881084173
87%|█████████████████████████████████████████████████████████████████▉ | 10411/12000 [40:05<05:43, 4.62it/s]
train loss:6.889976676064955e-05
87%|█████████████████████████████████████████████████████████████████▉ | 10412/12000 [40:05<05:44, 4.61it/s]
train loss:0.0003878546117121757
87%|█████████████████████████████████████████████████████████████████▉ | 10413/12000 [40:06<05:42, 4.64it/s]
train loss:0.0037034722168726724 train loss:0.00011080132410535877
87%|█████████████████████████████████████████████████████████████████▉ | 10415/12000 [40:06<05:40, 4.66it/s]
train loss:0.001621171398242958
87%|█████████████████████████████████████████████████████████████████▉ | 10416/12000 [40:06<05:41, 4.64it/s]
train loss:3.920005775999188e-05
87%|█████████████████████████████████████████████████████████████████▉ | 10418/12000 [40:07<05:38, 4.67it/s]
train loss:0.003192650368505396 train loss:0.0010098067509546594
87%|█████████████████████████████████████████████████████████████████▉ | 10419/12000 [40:07<05:39, 4.65it/s]
train loss:0.0026877995007995926
87%|█████████████████████████████████████████████████████████████████▉ | 10420/12000 [40:07<05:42, 4.62it/s]
train loss:0.00150060480638839
87%|█████████████████████████████████████████████████████████████████▉ | 10421/12000 [40:07<05:42, 4.62it/s]
train loss:0.001686719326463236
87%|██████████████████████████████████████████████████████████████████ | 10423/12000 [40:08<05:38, 4.66it/s]
train loss:0.0014681756798795246 train loss:8.463358031913212e-05
87%|██████████████████████████████████████████████████████████████████ | 10424/12000 [40:08<05:39, 4.64it/s]
train loss:0.0008013691142387354
87%|██████████████████████████████████████████████████████████████████ | 10425/12000 [40:08<05:43, 4.59it/s]
train loss:0.0027517479368443674
87%|██████████████████████████████████████████████████████████████████ | 10426/12000 [40:08<05:43, 4.59it/s]
train loss:0.0017306065227039105
87%|██████████████████████████████████████████████████████████████████ | 10427/12000 [40:09<05:41, 4.60it/s]
train loss:0.0006453263753249919
87%|██████████████████████████████████████████████████████████████████ | 10428/12000 [40:09<05:40, 4.62it/s]
train loss:0.0009304370466915943
87%|██████████████████████████████████████████████████████████████████ | 10429/12000 [40:09<05:40, 4.61it/s]
train loss:0.0002132727787167215
87%|██████████████████████████████████████████████████████████████████ | 10430/12000 [40:09<05:41, 4.60it/s]
train loss:0.0017012752520550653
87%|██████████████████████████████████████████████████████████████████ | 10431/12000 [40:09<05:42, 4.58it/s]
train loss:0.000191879138440368
87%|██████████████████████████████████████████████████████████████████ | 10432/12000 [40:10<05:40, 4.61it/s]
train loss:0.00027805224920187505
87%|██████████████████████████████████████████████████████████████████ | 10433/12000 [40:10<05:41, 4.59it/s]
train loss:0.0020003887528302505
87%|██████████████████████████████████████████████████████████████████ | 10434/12000 [40:10<05:43, 4.56it/s]
train loss:0.002799283734423738
87%|██████████████████████████████████████████████████████████████████ | 10435/12000 [40:10<05:43, 4.55it/s]
train loss:0.0020336066753416852
87%|██████████████████████████████████████████████████████████████████ | 10436/12000 [40:11<05:45, 4.53it/s]
train loss:0.00010263735624055078
87%|██████████████████████████████████████████████████████████████████ | 10437/12000 [40:11<05:41, 4.58it/s]
train loss:0.00011167456514365963
87%|██████████████████████████████████████████████████████████████████ | 10438/12000 [40:11<05:41, 4.57it/s]
train loss:0.005791720768442048
87%|██████████████████████████████████████████████████████████████████ | 10439/12000 [40:11<05:41, 4.57it/s]
train loss:0.0004849602322878844
87%|██████████████████████████████████████████████████████████████████▏ | 10441/12000 [40:12<05:38, 4.61it/s]
train loss:0.001097619412291275 train loss:0.0006205331409786445
87%|██████████████████████████████████████████████████████████████████▏ | 10442/12000 [40:12<05:38, 4.60it/s]
train loss:0.0020784035706103462
87%|██████████████████████████████████████████████████████████████████▏ | 10443/12000 [40:12<05:40, 4.58it/s]
train loss:0.0035266955924726315
87%|██████████████████████████████████████████████████████████████████▏ | 10444/12000 [40:12<05:42, 4.55it/s]
train loss:0.0009304985391561016
87%|██████████████████████████████████████████████████████████████████▏ | 10446/12000 [40:13<05:38, 4.59it/s]
train loss:0.001541301963573049 train loss:0.0006904240717927177
87%|██████████████████████████████████████████████████████████████████▏ | 10447/12000 [40:13<05:39, 4.58it/s]
train loss:0.0012574246169206576
87%|██████████████████████████████████████████████████████████████████▏ | 10448/12000 [40:13<05:41, 4.55it/s]
train loss:0.0015058732389004903
87%|██████████████████████████████████████████████████████████████████▏ | 10449/12000 [40:13<05:41, 4.54it/s]
train loss:0.0007174621323512125
87%|██████████████████████████████████████████████████████████████████▏ | 10450/12000 [40:14<05:39, 4.57it/s]
train loss:0.0010448460215327368
87%|██████████████████████████████████████████████████████████████████▏ | 10451/12000 [40:14<05:39, 4.57it/s]
train loss:0.00044907258598230734
87%|██████████████████████████████████████████████████████████████████▏ | 10452/12000 [40:14<05:39, 4.56it/s]
train loss:0.0037880628343892804
87%|██████████████████████████████████████████████████████████████████▏ | 10453/12000 [40:14<05:40, 4.55it/s]
train loss:0.0017297592714327617
87%|██████████████████████████████████████████████████████████████████▏ | 10454/12000 [40:15<05:41, 4.53it/s]
train loss:0.00012033860206889173
87%|██████████████████████████████████████████████████████████████████▏ | 10455/12000 [40:15<05:38, 4.57it/s]
train loss:0.0002067383469157249
87%|██████████████████████████████████████████████████████████████████▏ | 10456/12000 [40:15<05:39, 4.55it/s]
train loss:0.00043260179776536534
87%|██████████████████████████████████████████████████████████████████▏ | 10457/12000 [40:15<05:40, 4.54it/s]
train loss:0.0006748826486199035
87%|██████████████████████████████████████████████████████████████████▏ | 10458/12000 [40:15<05:40, 4.53it/s]
train loss:0.0019399918455429985
87%|██████████████████████████████████████████████████████████████████▏ | 10459/12000 [40:16<05:38, 4.55it/s]
train loss:0.00044993408765757
87%|██████████████████████████████████████████████████████████████████▏ | 10460/12000 [40:16<05:38, 4.55it/s]
train loss:0.0001896292322818509
87%|██████████████████████████████████████████████████████████████████▎ | 10461/12000 [40:16<05:39, 4.54it/s]
train loss:8.823229226893118e-05
87%|██████████████████████████████████████████████████████████████████▎ | 10462/12000 [40:16<05:39, 4.53it/s]
train loss:0.0008363041873850501
87%|██████████████████████████████████████████████████████████████████▎ | 10463/12000 [40:16<05:42, 4.48it/s]
train loss:0.005667869460027097
87%|██████████████████████████████████████████████████████████████████▎ | 10464/12000 [40:17<05:42, 4.48it/s]
train loss:0.0024910156427881557
87%|██████████████████████████████████████████████████████████████████▎ | 10465/12000 [40:17<05:41, 4.50it/s]
train loss:0.00010126421157649746
87%|██████████████████████████████████████████████████████████████████▎ | 10466/12000 [40:17<05:41, 4.49it/s]
train loss:0.001570825065671166
87%|██████████████████████████████████████████████████████████████████▎ | 10467/12000 [40:17<05:41, 4.49it/s]
train loss:7.64310125441208e-05
87%|██████████████████████████████████████████████████████████████████▎ | 10468/12000 [40:18<05:39, 4.52it/s]
train loss:0.001100681898681405
87%|██████████████████████████████████████████████████████████████████▎ | 10469/12000 [40:18<05:38, 4.53it/s]
train loss:0.0008463346775791872
87%|██████████████████████████████████████████████████████████████████▎ | 10470/12000 [40:18<05:38, 4.53it/s]
train loss:0.0003885479937260415
87%|██████████████████████████████████████████████████████████████████▎ | 10471/12000 [40:18<05:39, 4.51it/s]
train loss:0.007743612665669506
87%|██████████████████████████████████████████████████████████████████▎ | 10472/12000 [40:18<05:39, 4.51it/s]
train loss:0.001727403302679343
87%|██████████████████████████████████████████████████████████████████▎ | 10473/12000 [40:19<05:34, 4.56it/s]
train loss:0.00014878003754181462
87%|██████████████████████████████████████████████████████████████████▎ | 10474/12000 [40:19<05:35, 4.55it/s]
train loss:0.004901583411302538
87%|██████████████████████████████████████████████████████████████████▎ | 10475/12000 [40:19<05:35, 4.54it/s]
train loss:0.00018352098620678383
87%|██████████████████████████████████████████████████████████████████▎ | 10476/12000 [40:19<05:36, 4.52it/s]
train loss:0.0014948614437103867
87%|██████████████████████████████████████████████████████████████████▎ | 10477/12000 [40:20<05:37, 4.52it/s]
train loss:0.000470571638298433
87%|██████████████████████████████████████████████████████████████████▎ | 10478/12000 [40:20<05:37, 4.51it/s]
train loss:0.007552255840485226
87%|██████████████████████████████████████████████████████████████████▎ | 10479/12000 [40:20<05:37, 4.50it/s]
train loss:0.00012577232036541862
87%|██████████████████████████████████████████████████████████████████▎ | 10480/12000 [40:20<05:39, 4.48it/s]
train loss:0.000688863428954749
87%|██████████████████████████████████████████████████████████████████▍ | 10481/12000 [40:20<05:39, 4.47it/s]
train loss:0.0015812599573602573
87%|██████████████████████████████████████████████████████████████████▍ | 10482/12000 [40:21<05:36, 4.52it/s]
train loss:0.005324312998788408
87%|██████████████████████████████████████████████████████████████████▍ | 10483/12000 [40:21<05:38, 4.48it/s]
train loss:0.0001544654347760349
87%|██████████████████████████████████████████████████████████████████▍ | 10484/12000 [40:21<05:37, 4.49it/s]
train loss:0.005908303978374053
87%|██████████████████████████████████████████████████████████████████▍ | 10485/12000 [40:21<05:37, 4.49it/s]
train loss:0.0014074030161223322
87%|██████████████████████████████████████████████████████████████████▍ | 10486/12000 [40:22<05:35, 4.51it/s]
train loss:0.000855956094380355
87%|██████████████████████████████████████████████████████████████████▍ | 10487/12000 [40:22<05:35, 4.51it/s]
train loss:0.0012582624610155242
87%|██████████████████████████████████████████████████████████████████▍ | 10488/12000 [40:22<05:36, 4.49it/s]
train loss:0.005872431126159112
87%|██████████████████████████████████████████████████████████████████▍ | 10489/12000 [40:22<05:36, 4.49it/s]
train loss:0.0007527314783193831
87%|██████████████████████████████████████████████████████████████████▍ | 10490/12000 [40:22<05:37, 4.47it/s]
train loss:0.0004947639784828088
87%|██████████████████████████████████████████████████████████████████▍ | 10491/12000 [40:23<05:38, 4.46it/s]
train loss:0.00043017510115981217
87%|██████████████████████████████████████████████████████████████████▍ | 10492/12000 [40:23<05:36, 4.48it/s]
train loss:0.0003459249906192366
87%|██████████████████████████████████████████████████████████████████▍ | 10493/12000 [40:23<05:38, 4.46it/s]
train loss:0.002560736963576927
87%|██████████████████████████████████████████████████████████████████▍ | 10494/12000 [40:23<05:36, 4.48it/s]
train loss:7.08174237276057e-05
87%|██████████████████████████████████████████████████████████████████▍ | 10495/12000 [40:24<05:35, 4.49it/s]
train loss:0.013688330051407889
87%|██████████████████████████████████████████████████████████████████▍ | 10496/12000 [40:24<05:33, 4.51it/s]
train loss:0.0019255646037322238
87%|██████████████████████████████████████████████████████████████████▍ | 10497/12000 [40:24<05:34, 4.50it/s]
train loss:0.00023732207038405057
87%|██████████████████████████████████████████████████████████████████▍ | 10498/12000 [40:24<05:33, 4.51it/s]
train loss:0.00018282035409540186
87%|██████████████████████████████████████████████████████████████████▍ | 10499/12000 [40:24<05:33, 4.50it/s]
train loss:0.00025528894843971533
88%|██████████████████████████████████████████████████████████████████▌ | 10500/12000 [40:25<05:28, 4.57it/s]
train loss:0.0004429643616932453
88%|██████████████████████████████████████████████████████████████████▌ | 10501/12000 [40:25<05:29, 4.55it/s]
train loss:0.0007461728924345451
88%|██████████████████████████████████████████████████████████████████▌ | 10502/12000 [40:25<05:32, 4.51it/s]
train loss:0.003019583041350954
88%|██████████████████████████████████████████████████████████████████▌ | 10503/12000 [40:25<05:31, 4.51it/s]
train loss:0.00020841914888392578
88%|██████████████████████████████████████████████████████████████████▌ | 10504/12000 [40:26<05:30, 4.52it/s]
train loss:0.0009447876606310776
88%|██████████████████████████████████████████████████████████████████▌ | 10505/12000 [40:26<05:29, 4.53it/s]
train loss:0.001266295611985786
88%|██████████████████████████████████████████████████████████████████▌ | 10506/12000 [40:26<05:32, 4.49it/s]
train loss:0.0022000824329327464
88%|██████████████████████████████████████████████████████████████████▌ | 10507/12000 [40:26<05:32, 4.49it/s]
train loss:6.946705364176694e-05
88%|██████████████████████████████████████████████████████████████████▌ | 10508/12000 [40:26<05:32, 4.49it/s]
train loss:0.00024688342461492134
88%|██████████████████████████████████████████████████████████████████▌ | 10509/12000 [40:27<05:29, 4.52it/s]
train loss:0.0002821965821466925
88%|██████████████████████████████████████████████████████████████████▌ | 10510/12000 [40:27<05:30, 4.51it/s]
train loss:0.0013486866017257892
88%|██████████████████████████████████████████████████████████████████▌ | 10511/12000 [40:27<05:30, 4.51it/s]
train loss:5.742822022868961e-05
88%|██████████████████████████████████████████████████████████████████▌ | 10512/12000 [40:27<05:29, 4.51it/s]
train loss:0.0015698729121565403
88%|██████████████████████████████████████████████████████████████████▌ | 10513/12000 [40:28<05:29, 4.52it/s]
train loss:8.404569965189505e-05
88%|██████████████████████████████████████████████████████████████████▌ | 10514/12000 [40:28<05:27, 4.53it/s]
train loss:0.0027025944097252984
88%|██████████████████████████████████████████████████████████████████▌ | 10515/12000 [40:28<05:27, 4.53it/s]
train loss:0.00044016488961797764
88%|██████████████████████████████████████████████████████████████████▌ | 10516/12000 [40:28<05:27, 4.53it/s]
train loss:0.0001510662753263875
88%|██████████████████████████████████████████████████████████████████▌ | 10517/12000 [40:28<05:28, 4.52it/s]
train loss:0.001576420343818882
88%|██████████████████████████████████████████████████████████████████▌ | 10518/12000 [40:29<05:24, 4.57it/s]
train loss:0.0007559286700408626
88%|██████████████████████████████████████████████████████████████████▌ | 10519/12000 [40:29<05:25, 4.56it/s]
train loss:1.4715085894299583e-05
88%|██████████████████████████████████████████████████████████████████▋ | 10520/12000 [40:29<05:25, 4.55it/s]
train loss:0.00334524790593308
88%|██████████████████████████████████████████████████████████████████▋ | 10521/12000 [40:29<05:25, 4.55it/s]
train loss:4.117943837789594e-05
88%|██████████████████████████████████████████████████████████████████▋ | 10522/12000 [40:30<05:25, 4.55it/s]
train loss:0.0011250389919147021
88%|██████████████████████████████████████████████████████████████████▋ | 10523/12000 [40:30<05:24, 4.55it/s]
train loss:0.0010157971013056973
88%|██████████████████████████████████████████████████████████████████▋ | 10524/12000 [40:30<05:24, 4.55it/s]
train loss:0.003492826037307739
88%|██████████████████████████████████████████████████████████████████▋ | 10525/12000 [40:30<05:24, 4.54it/s]
train loss:0.0011185460467696483
88%|██████████████████████████████████████████████████████████████████▋ | 10527/12000 [40:31<05:21, 4.58it/s]
train loss:0.002474641510934723 train loss:0.0005511120379921386
88%|██████████████████████████████████████████████████████████████████▋ | 10528/12000 [40:31<05:22, 4.56it/s]
train loss:0.002193598644792541
88%|██████████████████████████████████████████████████████████████████▋ | 10529/12000 [40:31<05:22, 4.56it/s]
train loss:0.00043165245943825055
88%|██████████████████████████████████████████████████████████████████▋ | 10530/12000 [40:31<05:23, 4.54it/s]
train loss:0.0008901934521323131
88%|██████████████████████████████████████████████████████████████████▋ | 10531/12000 [40:32<05:27, 4.49it/s]
train loss:0.0014467116538299505
88%|██████████████████████████████████████████████████████████████████▋ | 10532/12000 [40:32<05:24, 4.53it/s]
train loss:0.000752893381333316
88%|██████████████████████████████████████████████████████████████████▋ | 10533/12000 [40:32<05:24, 4.53it/s]
train loss:0.00024901838848198724
88%|██████████████████████████████████████████████████████████████████▋ | 10534/12000 [40:32<05:23, 4.52it/s]
train loss:0.0004148093639408232
88%|██████████████████████████████████████████████████████████████████▋ | 10535/12000 [40:32<05:23, 4.52it/s]
train loss:0.001856021662390364
88%|██████████████████████████████████████████████████████████████████▋ | 10536/12000 [40:33<05:20, 4.57it/s]
train loss:0.0003632193480442172
88%|██████████████████████████████████████████████████████████████████▋ | 10537/12000 [40:33<05:20, 4.56it/s]
train loss:0.001084642174719733
88%|██████████████████████████████████████████████████████████████████▋ | 10538/12000 [40:33<05:23, 4.52it/s]
train loss:0.008252322667950741
88%|██████████████████████████████████████████████████████████████████▋ | 10539/12000 [40:33<05:22, 4.52it/s]
train loss:0.0005247274780722539
88%|██████████████████████████████████████████████████████████████████▊ | 10540/12000 [40:34<05:22, 4.52it/s]
train loss:0.000833644377771538
88%|██████████████████████████████████████████████████████████████████▊ | 10541/12000 [40:34<05:19, 4.57it/s]
train loss:0.0010299425008943926
88%|██████████████████████████████████████████████████████████████████▊ | 10542/12000 [40:34<05:20, 4.55it/s]
train loss:0.002626395365753923
88%|██████████████████████████████████████████████████████████████████▊ | 10543/12000 [40:34<05:21, 4.53it/s]
train loss:0.0005139288596341354
88%|██████████████████████████████████████████████████████████████████▊ | 10544/12000 [40:34<05:21, 4.53it/s]
train loss:0.0005703525854937376
88%|██████████████████████████████████████████████████████████████████▊ | 10545/12000 [40:35<05:19, 4.55it/s]
train loss:0.006154408942506144
88%|██████████████████████████████████████████████████████████████████▊ | 10546/12000 [40:35<05:19, 4.55it/s]
train loss:0.00029165243215697014
88%|██████████████████████████████████████████████████████████████████▊ | 10547/12000 [40:35<05:20, 4.53it/s]
train loss:0.0004175894811894436
88%|██████████████████████████████████████████████████████████████████▊ | 10548/12000 [40:35<05:20, 4.54it/s]
train loss:0.00024182317102309028
88%|██████████████████████████████████████████████████████████████████▊ | 10549/12000 [40:36<05:20, 4.52it/s]
train loss:0.00019266750138372974
88%|██████████████████████████████████████████████████████████████████▊ | 10550/12000 [40:36<05:19, 4.54it/s]
train loss:0.0006054135940976027
88%|██████████████████████████████████████████████████████████████████▊ | 10551/12000 [40:36<05:50, 4.13it/s]
train loss:0.0009388202096486276
88%|██████████████████████████████████████████████████████████████████▊ | 10552/12000 [40:36<05:53, 4.10it/s]
train loss:0.010620439840650631
88%|██████████████████████████████████████████████████████████████████▊ | 10553/12000 [40:36<05:44, 4.20it/s]
train loss:0.000148930404914091
88%|██████████████████████████████████████████████████████████████████▊ | 10554/12000 [40:37<05:36, 4.29it/s]
train loss:0.001604008093622038
88%|██████████████████████████████████████████████████████████████████▊ | 10555/12000 [40:37<05:34, 4.32it/s]
train loss:0.0018158700827722498
88%|██████████████████████████████████████████████████████████████████▊ | 10556/12000 [40:37<05:32, 4.34it/s]
train loss:0.0004039313498827116
88%|██████████████████████████████████████████████████████████████████▊ | 10557/12000 [40:37<05:30, 4.37it/s]
train loss:0.00018925763491392487
88%|██████████████████████████████████████████████████████████████████▊ | 10558/12000 [40:38<05:26, 4.41it/s]
train loss:0.007601728937332221
88%|██████████████████████████████████████████████████████████████████▊ | 10559/12000 [40:38<05:24, 4.44it/s]
train loss:0.0004039370898935306
88%|██████████████████████████████████████████████████████████████████▉ | 10560/12000 [40:38<05:23, 4.45it/s]
train loss:0.0008749964262446723
88%|██████████████████████████████████████████████████████████████████▉ | 10561/12000 [40:38<05:22, 4.46it/s]
train loss:0.0031855593035115897
88%|██████████████████████████████████████████████████████████████████▉ | 10562/12000 [40:39<05:23, 4.45it/s]
train loss:0.002449973388300145
88%|██████████████████████████████████████████████████████████████████▉ | 10563/12000 [40:39<05:18, 4.52it/s]
train loss:9.53142308855853e-05
88%|██████████████████████████████████████████████████████████████████▉ | 10564/12000 [40:39<05:18, 4.51it/s]
train loss:0.0004475814225273065
88%|██████████████████████████████████████████████████████████████████▉ | 10565/12000 [40:39<05:18, 4.51it/s]
train loss:0.003371937106868922
88%|██████████████████████████████████████████████████████████████████▉ | 10566/12000 [40:39<05:18, 4.51it/s]
train loss:0.0008126257379567729
88%|██████████████████████████████████████████████████████████████████▉ | 10567/12000 [40:40<05:15, 4.54it/s]
train loss:0.00027622394068602677
88%|██████████████████████████████████████████████████████████████████▉ | 10568/12000 [40:40<05:15, 4.53it/s]
train loss:0.0008554422490021922
88%|██████████████████████████████████████████████████████████████████▉ | 10569/12000 [40:40<05:16, 4.52it/s]
train loss:0.00018324667921797082
88%|██████████████████████████████████████████████████████████████████▉ | 10570/12000 [40:40<05:16, 4.52it/s]
train loss:0.00015615747417939386
88%|██████████████████████████████████████████████████████████████████▉ | 10571/12000 [40:41<05:17, 4.50it/s]
train loss:0.0004922867084268161
88%|██████████████████████████████████████████████████████████████████▉ | 10572/12000 [40:41<05:13, 4.55it/s]
train loss:0.0005920935288896132
88%|██████████████████████████████████████████████████████████████████▉ | 10573/12000 [40:41<05:13, 4.55it/s]
train loss:0.000748498439559635
88%|██████████████████████████████████████████████████████████████████▉ | 10574/12000 [40:41<05:14, 4.53it/s]
train loss:0.0001704047040025409
88%|██████████████████████████████████████████████████████████████████▉ | 10575/12000 [40:41<05:14, 4.53it/s]
train loss:0.000640854889766869
88%|██████████████████████████████████████████████████████████████████▉ | 10576/12000 [40:42<05:14, 4.53it/s]
train loss:0.0008930396952146444
88%|██████████████████████████████████████████████████████████████████▉ | 10577/12000 [40:42<05:13, 4.54it/s]
train loss:0.001405886001611498
88%|██████████████████████████████████████████████████████████████████▉ | 10578/12000 [40:42<05:13, 4.53it/s]
train loss:0.0012524794630730625
88%|███████████████████████████████████████████████████████████████████ | 10579/12000 [40:42<05:14, 4.52it/s]
train loss:0.00034695553328026275
88%|███████████████████████████████████████████████████████████████████ | 10580/12000 [40:42<05:15, 4.51it/s]
train loss:6.609243194181827e-05
88%|███████████████████████████████████████████████████████████████████ | 10581/12000 [40:43<05:11, 4.56it/s]
train loss:0.0013813939952297535
88%|███████████████████████████████████████████████████████████████████ | 10582/12000 [40:43<05:12, 4.54it/s]
train loss:7.215890392597222e-05
88%|███████████████████████████████████████████████████████████████████ | 10583/12000 [40:43<05:12, 4.53it/s]
train loss:0.00015944175684608694
88%|███████████████████████████████████████████████████████████████████ | 10584/12000 [40:43<05:13, 4.52it/s]
train loss:0.0009076397465963208
88%|███████████████████████████████████████████████████████████████████ | 10585/12000 [40:44<05:12, 4.52it/s]
train loss:0.0006150584650403052
88%|███████████████████████████████████████████████████████████████████ | 10586/12000 [40:44<05:12, 4.52it/s]
train loss:0.0007755518608186712
88%|███████████████████████████████████████████████████████████████████ | 10587/12000 [40:44<05:12, 4.52it/s]
train loss:0.0005647990671964509
88%|███████████████████████████████████████████████████████████████████ | 10588/12000 [40:44<05:13, 4.51it/s]
train loss:0.0013565999202594333
88%|███████████████████████████████████████████████████████████████████ | 10589/12000 [40:44<05:13, 4.51it/s]
train loss:0.00020639077298385434
88%|███████████████████████████████████████████████████████████████████ | 10590/12000 [40:45<05:12, 4.52it/s]
train loss:0.0003933528906861532
88%|███████████████████████████████████████████████████████████████████ | 10591/12000 [40:45<05:13, 4.49it/s]
train loss:0.003888141843054295
88%|███████████████████████████████████████████████████████████████████ | 10592/12000 [40:45<05:14, 4.48it/s]
train loss:2.305763512328889e-05
88%|███████████████████████████████████████████████████████████████████ | 10593/12000 [40:45<05:13, 4.49it/s]
train loss:0.001958944852874012
88%|███████████████████████████████████████████████████████████████████ | 10594/12000 [40:46<05:11, 4.51it/s]
train loss:0.003541782188980229
88%|███████████████████████████████████████████████████████████████████ | 10595/12000 [40:46<05:10, 4.53it/s]
train loss:0.0012700720596191856
88%|███████████████████████████████████████████████████████████████████ | 10596/12000 [40:46<05:10, 4.52it/s]
train loss:0.0005513945525278457
88%|███████████████████████████████████████████████████████████████████ | 10597/12000 [40:46<05:11, 4.50it/s]
train loss:0.00029024382027267566
88%|███████████████████████████████████████████████████████████████████ | 10598/12000 [40:46<05:11, 4.50it/s]
train loss:0.0007524356480023742
88%|███████████████████████████████████████████████████████████████████▏ | 10599/12000 [40:47<05:09, 4.53it/s]
train loss:0.0015663961323558974
88%|███████████████████████████████████████████████████████████████████▏ | 10600/12000 [40:47<05:09, 4.52it/s]
train loss:0.003431191933814885
88%|███████████████████████████████████████████████████████████████████▏ | 10601/12000 [40:47<05:09, 4.52it/s]
train loss:0.0003231021771809097
88%|███████████████████████████████████████████████████████████████████▏ | 10602/12000 [40:47<05:09, 4.51it/s]
train loss:0.00047869992322441
88%|███████████████████████████████████████████████████████████████████▏ | 10603/12000 [40:48<05:08, 4.52it/s]
train loss:0.0002537266947913814
88%|███████████████████████████████████████████████████████████████████▏ | 10604/12000 [40:48<05:07, 4.54it/s]
train loss:0.0012559692946998565
88%|███████████████████████████████████████████████████████████████████▏ | 10605/12000 [40:48<05:08, 4.53it/s]
train loss:0.0007584877154962576
88%|███████████████████████████████████████████████████████████████████▏ | 10606/12000 [40:48<05:08, 4.51it/s]
train loss:0.00019618286221054985
88%|███████████████████████████████████████████████████████████████████▏ | 10607/12000 [40:48<05:10, 4.49it/s]
train loss:0.0009244892268152914
88%|███████████████████████████████████████████████████████████████████▏ | 10608/12000 [40:49<05:06, 4.54it/s]
train loss:3.2036478661874923e-05
88%|███████████████████████████████████████████████████████████████████▏ | 10609/12000 [40:49<05:06, 4.53it/s]
train loss:0.0014335455481539255
88%|███████████████████████████████████████████████████████████████████▏ | 10610/12000 [40:49<05:06, 4.54it/s]
train loss:0.00039914052044582677
88%|███████████████████████████████████████████████████████████████████▏ | 10611/12000 [40:49<05:11, 4.45it/s]
train loss:0.000174662924125959
88%|███████████████████████████████████████████████████████████████████▏ | 10612/12000 [40:50<05:09, 4.48it/s]
train loss:0.00063714244444949
88%|███████████████████████████████████████████████████████████████████▏ | 10613/12000 [40:50<05:08, 4.50it/s]
train loss:0.0033681843519310904
88%|███████████████████████████████████████████████████████████████████▏ | 10614/12000 [40:50<05:07, 4.50it/s]
train loss:0.005862778256074182
88%|███████████████████████████████████████████████████████████████████▏ | 10615/12000 [40:50<05:08, 4.50it/s]
train loss:0.0007523178604388709
88%|███████████████████████████████████████████████████████████████████▏ | 10616/12000 [40:50<05:07, 4.50it/s]
train loss:0.007324585427462234
88%|███████████████████████████████████████████████████████████████████▏ | 10617/12000 [40:51<05:03, 4.55it/s]
train loss:0.0012917495413931155
88%|███████████████████████████████████████████████████████████████████▏ | 10618/12000 [40:51<05:04, 4.54it/s]
train loss:0.00010532771479602414
88%|███████████████████████████████████████████████████████████████████▎ | 10619/12000 [40:51<05:04, 4.53it/s]
train loss:0.0010731167178067496
88%|███████████████████████████████████████████████████████████████████▎ | 10620/12000 [40:51<05:05, 4.51it/s]
train loss:0.0007004605060108736
89%|███████████████████████████████████████████████████████████████████▎ | 10621/12000 [40:52<05:04, 4.53it/s]
train loss:0.0010214397618035494
89%|███████████████████████████████████████████████████████████████████▎ | 10622/12000 [40:52<05:03, 4.55it/s]
train loss:0.0008580199142835243
89%|███████████████████████████████████████████████████████████████████▎ | 10623/12000 [40:52<05:04, 4.52it/s]
train loss:6.114817033155679e-05
89%|███████████████████████████████████████████████████████████████████▎ | 10624/12000 [40:52<05:05, 4.50it/s]
train loss:0.002461885592563788
89%|███████████████████████████████████████████████████████████████████▎ | 10625/12000 [40:52<05:06, 4.48it/s]
train loss:9.534700960957692e-05
89%|███████████████████████████████████████████████████████████████████▎ | 10626/12000 [40:53<05:07, 4.46it/s]
train loss:0.00019221709986114413
89%|███████████████████████████████████████████████████████████████████▎ | 10627/12000 [40:53<05:07, 4.46it/s]
train loss:0.001764150197401279
89%|███████████████████████████████████████████████████████████████████▎ | 10628/12000 [40:53<05:06, 4.48it/s]
train loss:0.0004983388057415594
89%|███████████████████████████████████████████████████████████████████▎ | 10629/12000 [40:53<05:06, 4.48it/s]
train loss:0.0016774201856205556
89%|███████████████████████████████████████████████████████████████████▎ | 10630/12000 [40:54<05:04, 4.50it/s]
train loss:0.003432865662452061
89%|███████████████████████████████████████████████████████████████████▎ | 10631/12000 [40:54<05:02, 4.53it/s]
train loss:0.0028342446463236752
89%|███████████████████████████████████████████████████████████████████▎ | 10632/12000 [40:54<05:02, 4.52it/s]
train loss:0.001901257893486305
89%|███████████████████████████████████████████████████████████████████▎ | 10633/12000 [40:54<05:02, 4.51it/s]
train loss:0.001117322568448712
89%|███████████████████████████████████████████████████████████████████▎ | 10634/12000 [40:54<05:03, 4.50it/s]
train loss:0.0024504080936350783
89%|███████████████████████████████████████████████████████████████████▎ | 10635/12000 [40:55<04:59, 4.55it/s]
train loss:0.00011293686467069831
89%|███████████████████████████████████████████████████████████████████▎ | 10636/12000 [40:55<05:01, 4.53it/s]
train loss:0.0010426092941846095
89%|███████████████████████████████████████████████████████████████████▎ | 10637/12000 [40:55<05:01, 4.52it/s]
train loss:0.0002630386579086903
89%|███████████████████████████████████████████████████████████████████▎ | 10638/12000 [40:55<05:04, 4.48it/s]
train loss:0.0009340909287363952
89%|███████████████████████████████████████████████████████████████████▍ | 10639/12000 [40:56<05:02, 4.50it/s]
train loss:0.0021190365366215726
89%|███████████████████████████████████████████████████████████████████▍ | 10640/12000 [40:56<04:59, 4.53it/s]
train loss:0.00022456734928352442
89%|███████████████████████████████████████████████████████████████████▍ | 10641/12000 [40:56<05:01, 4.51it/s]
train loss:0.0019876925226899023
89%|███████████████████████████████████████████████████████████████████▍ | 10642/12000 [40:56<05:02, 4.49it/s]
train loss:0.005129659327665803
89%|███████████████████████████████████████████████████████████████████▍ | 10643/12000 [40:56<05:02, 4.49it/s]
train loss:0.0028274139561048563
89%|███████████████████████████████████████████████████████████████████▍ | 10644/12000 [40:57<04:58, 4.54it/s]
train loss:0.0003062865485358458
89%|███████████████████████████████████████████████████████████████████▍ | 10645/12000 [40:57<05:00, 4.51it/s]
train loss:0.0005214989669688634
89%|███████████████████████████████████████████████████████████████████▍ | 10646/12000 [40:57<05:00, 4.51it/s]
train loss:0.0015434819605978196
89%|███████████████████████████████████████████████████████████████████▍ | 10647/12000 [40:57<05:00, 4.51it/s]
train loss:0.003246031437935909
89%|███████████████████████████████████████████████████████████████████▍ | 10648/12000 [40:58<04:59, 4.51it/s]
train loss:0.0005292795374049361
89%|███████████████████████████████████████████████████████████████████▍ | 10649/12000 [40:58<04:58, 4.52it/s]
train loss:0.00013165077511184678
89%|███████████████████████████████████████████████████████████████████▍ | 10650/12000 [40:58<04:58, 4.52it/s]
train loss:4.7526516424765614e-05
89%|███████████████████████████████████████████████████████████████████▍ | 10651/12000 [40:58<04:59, 4.50it/s]
train loss:0.0034504945261929123
89%|███████████████████████████████████████████████████████████████████▍ | 10652/12000 [40:58<04:59, 4.50it/s]
train loss:0.0007929272980030644
89%|███████████████████████████████████████████████████████████████████▍ | 10653/12000 [40:59<04:56, 4.55it/s]
train loss:0.0010737952130000434
89%|███████████████████████████████████████████████████████████████████▍ | 10654/12000 [40:59<04:58, 4.51it/s]
train loss:0.0011213940868315723
89%|███████████████████████████████████████████████████████████████████▍ | 10655/12000 [40:59<04:57, 4.52it/s]
train loss:0.0002333842482358557
89%|███████████████████████████████████████████████████████████████████▍ | 10656/12000 [40:59<04:58, 4.51it/s]
train loss:0.0006508594014057702
89%|███████████████████████████████████████████████████████████████████▍ | 10657/12000 [41:00<04:58, 4.51it/s]
train loss:0.001746086315816739
89%|███████████████████████████████████████████████████████████████████▌ | 10658/12000 [41:00<04:55, 4.54it/s]
train loss:0.007879813366394735
89%|███████████████████████████████████████████████████████████████████▌ | 10659/12000 [41:00<04:55, 4.53it/s]
train loss:0.00016220677629100278
89%|███████████████████████████████████████████████████████████████████▌ | 10660/12000 [41:00<04:57, 4.51it/s]
train loss:0.0006683615277397347
89%|███████████████████████████████████████████████████████████████████▌ | 10661/12000 [41:00<04:58, 4.49it/s]
train loss:0.0018749778954548005
89%|███████████████████████████████████████████████████████████████████▌ | 10662/12000 [41:01<04:54, 4.54it/s]
train loss:2.6312764134180286e-05
89%|███████████████████████████████████████████████████████████████████▌ | 10663/12000 [41:01<04:54, 4.53it/s]
train loss:0.0005925675940263897
89%|███████████████████████████████████████████████████████████████████▌ | 10664/12000 [41:01<04:56, 4.50it/s]
train loss:0.0024828893577551656
89%|███████████████████████████████████████████████████████████████████▌ | 10665/12000 [41:01<04:56, 4.50it/s]
train loss:0.0001134377403613438
89%|███████████████████████████████████████████████████████████████████▌ | 10666/12000 [41:02<04:57, 4.48it/s]
train loss:0.0007831151812074613
89%|███████████████████████████████████████████████████████████████████▌ | 10667/12000 [41:02<04:54, 4.53it/s]
train loss:0.001620803286387031
89%|███████████████████████████████████████████████████████████████████▌ | 10668/12000 [41:02<04:54, 4.52it/s]
train loss:0.0016351398989596963
89%|███████████████████████████████████████████████████████████████████▌ | 10669/12000 [41:02<04:54, 4.52it/s]
train loss:0.0007676154354470753
89%|███████████████████████████████████████████████████████████████████▌ | 10670/12000 [41:02<04:55, 4.51it/s]
train loss:0.0013465158538496888
89%|███████████████████████████████████████████████████████████████████▌ | 10671/12000 [41:03<04:50, 4.57it/s]
train loss:0.00011998236953142073
89%|███████████████████████████████████████████████████████████████████▌ | 10672/12000 [41:03<04:51, 4.55it/s]
train loss:0.0008562388904685732
89%|███████████████████████████████████████████████████████████████████▌ | 10673/12000 [41:03<04:52, 4.54it/s]
train loss:0.0026668703704498986
89%|███████████████████████████████████████████████████████████████████▌ | 10674/12000 [41:03<04:53, 4.52it/s]
train loss:0.0013328056771309054
89%|███████████████████████████████████████████████████████████████████▌ | 10675/12000 [41:04<04:54, 4.49it/s]
train loss:0.0002940396147902686
89%|███████████████████████████████████████████████████████████████████▌ | 10676/12000 [41:04<04:51, 4.54it/s]
train loss:0.0007275869743543947
89%|███████████████████████████████████████████████████████████████████▌ | 10677/12000 [41:04<04:52, 4.53it/s]
train loss:0.0004055910048073874
89%|███████████████████████████████████████████████████████████████████▋ | 10678/12000 [41:04<04:53, 4.51it/s]
train loss:0.0022344741145600673
89%|███████████████████████████████████████████████████████████████████▋ | 10679/12000 [41:04<04:53, 4.51it/s]
train loss:0.0006163238440231441
89%|███████████████████████████████████████████████████████████████████▋ | 10680/12000 [41:05<04:50, 4.55it/s]
train loss:0.0003301298751549326
89%|███████████████████████████████████████████████████████████████████▋ | 10681/12000 [41:05<04:52, 4.52it/s]
train loss:0.0003439851649616173
89%|███████████████████████████████████████████████████████████████████▋ | 10682/12000 [41:05<04:52, 4.51it/s]
train loss:0.0015536759056125943
89%|███████████████████████████████████████████████████████████████████▋ | 10683/12000 [41:05<04:52, 4.51it/s]
train loss:0.006693937858298424
89%|███████████████████████████████████████████████████████████████████▋ | 10684/12000 [41:06<04:52, 4.50it/s]
train loss:9.603184396021702e-05
89%|███████████████████████████████████████████████████████████████████▋ | 10685/12000 [41:06<04:48, 4.55it/s]
train loss:0.0001240993075164288
89%|███████████████████████████████████████████████████████████████████▋ | 10686/12000 [41:06<04:49, 4.54it/s]
train loss:0.001946971053941632
89%|███████████████████████████████████████████████████████████████████▋ | 10687/12000 [41:06<04:50, 4.52it/s]
train loss:0.0033682666513145183
89%|███████████████████████████████████████████████████████████████████▋ | 10688/12000 [41:06<04:50, 4.51it/s]
train loss:0.00046875265488562523
89%|███████████████████████████████████████████████████████████████████▋ | 10689/12000 [41:07<04:49, 4.53it/s]
train loss:0.0023069065170461633
89%|███████████████████████████████████████████████████████████████████▋ | 10690/12000 [41:07<04:48, 4.54it/s]
train loss:0.00016600962475072089
89%|███████████████████████████████████████████████████████████████████▋ | 10691/12000 [41:07<04:49, 4.52it/s]
train loss:0.002540956659783118
89%|███████████████████████████████████████████████████████████████████▋ | 10692/12000 [41:07<04:49, 4.51it/s]
train loss:0.00035044760750926196
89%|███████████████████████████████████████████████████████████████████▋ | 10693/12000 [41:08<04:50, 4.51it/s]
train loss:0.0033401601612540227
89%|███████████████████████████████████████████████████████████████████▋ | 10694/12000 [41:08<04:47, 4.55it/s]
train loss:0.0002857713472487358
89%|███████████████████████████████████████████████████████████████████▋ | 10695/12000 [41:08<04:49, 4.51it/s]
train loss:0.003422458022500166
89%|███████████████████████████████████████████████████████████████████▋ | 10696/12000 [41:08<05:02, 4.32it/s]
train loss:0.00446545246995121
89%|███████████████████████████████████████████████████████████████████▋ | 10697/12000 [41:08<05:04, 4.29it/s]
train loss:0.00280299247497109
89%|███████████████████████████████████████████████████████████████████▊ | 10698/12000 [41:09<04:58, 4.35it/s]
train loss:0.00030756970108333884
89%|███████████████████████████████████████████████████████████████████▊ | 10699/12000 [41:09<04:58, 4.36it/s]
train loss:0.0001351999753056412
89%|███████████████████████████████████████████████████████████████████▊ | 10700/12000 [41:09<04:55, 4.40it/s]
train loss:6.964510717259009e-05
89%|███████████████████████████████████████████████████████████████████▊ | 10701/12000 [41:09<04:53, 4.42it/s]
train loss:0.00270646288941303
89%|███████████████████████████████████████████████████████████████████▊ | 10702/12000 [41:10<04:51, 4.45it/s]
train loss:0.0050041090617470195
89%|███████████████████████████████████████████████████████████████████▊ | 10703/12000 [41:10<04:47, 4.50it/s]
train loss:0.0008565395636129747
89%|███████████████████████████████████████████████████████████████████▊ | 10704/12000 [41:10<04:47, 4.50it/s]
train loss:8.85468383505262e-05
89%|███████████████████████████████████████████████████████████████████▊ | 10705/12000 [41:10<04:48, 4.49it/s]
train loss:0.0013939698496455689
89%|███████████████████████████████████████████████████████████████████▊ | 10706/12000 [41:10<04:48, 4.49it/s]
train loss:3.730232593529894e-05
89%|███████████████████████████████████████████████████████████████████▊ | 10707/12000 [41:11<04:45, 4.54it/s]
train loss:0.005637225140218031
89%|███████████████████████████████████████████████████████████████████▊ | 10708/12000 [41:11<04:45, 4.53it/s]
train loss:0.0006063523709327917
89%|███████████████████████████████████████████████████████████████████▊ | 10709/12000 [41:11<04:47, 4.50it/s]
train loss:4.0000162603495775e-05
89%|███████████████████████████████████████████████████████████████████▊ | 10710/12000 [41:11<04:47, 4.49it/s]
train loss:0.0006016519206879354
89%|███████████████████████████████████████████████████████████████████▊ | 10711/12000 [41:12<04:47, 4.49it/s]
train loss:7.128197138547924e-05
89%|███████████████████████████████████████████████████████████████████▊ | 10712/12000 [41:12<04:44, 4.52it/s]
train loss:0.0014452441411235556
89%|███████████████████████████████████████████████████████████████████▊ | 10713/12000 [41:12<04:44, 4.52it/s]
train loss:0.0019054271487072003
89%|███████████████████████████████████████████████████████████████████▊ | 10714/12000 [41:12<04:45, 4.51it/s]
train loss:0.001282486952812939
89%|███████████████████████████████████████████████████████████████████▊ | 10715/12000 [41:12<04:45, 4.50it/s]
train loss:0.004552243340570484
89%|███████████████████████████████████████████████████████████████████▊ | 10716/12000 [41:13<04:43, 4.53it/s]
train loss:0.002397288658069094
89%|███████████████████████████████████████████████████████████████████▊ | 10717/12000 [41:13<04:44, 4.51it/s]
train loss:0.0001938298568918624
89%|███████████████████████████████████████████████████████████████████▉ | 10718/12000 [41:13<04:44, 4.50it/s]
train loss:0.0007351447322863864
89%|███████████████████████████████████████████████████████████████████▉ | 10719/12000 [41:13<04:46, 4.48it/s]
train loss:0.0014298799106709009
89%|███████████████████████████████████████████████████████████████████▉ | 10720/12000 [41:14<04:45, 4.48it/s]
train loss:4.8403848986823284e-05
89%|███████████████████████████████████████████████████████████████████▉ | 10721/12000 [41:14<04:42, 4.53it/s]
train loss:0.001976166169342595
89%|███████████████████████████████████████████████████████████████████▉ | 10722/12000 [41:14<04:43, 4.51it/s]
train loss:0.001517842709568231
89%|███████████████████████████████████████████████████████████████████▉ | 10723/12000 [41:14<04:44, 4.49it/s]
train loss:0.0012225625793315527
89%|███████████████████████████████████████████████████████████████████▉ | 10724/12000 [41:14<04:44, 4.48it/s]
train loss:0.00022257206434958917
89%|███████████████████████████████████████████████████████████████████▉ | 10725/12000 [41:15<04:42, 4.52it/s]
train loss:0.0010905741227379162
89%|███████████████████████████████████████████████████████████████████▉ | 10726/12000 [41:15<04:42, 4.52it/s]
train loss:0.0011076212665388618
89%|███████████████████████████████████████████████████████████████████▉ | 10727/12000 [41:15<04:42, 4.51it/s]
train loss:0.002919273079016387
89%|███████████████████████████████████████████████████████████████████▉ | 10728/12000 [41:15<04:42, 4.50it/s]
train loss:0.004239937219807212
89%|███████████████████████████████████████████████████████████████████▉ | 10729/12000 [41:16<04:41, 4.51it/s]
train loss:0.0035254892265338834
89%|███████████████████████████████████████████████████████████████████▉ | 10730/12000 [41:16<04:39, 4.54it/s]
train loss:0.0021913371740231286
89%|███████████████████████████████████████████████████████████████████▉ | 10731/12000 [41:16<04:41, 4.51it/s]
train loss:0.0001555041668615628
89%|███████████████████████████████████████████████████████████████████▉ | 10732/12000 [41:16<04:41, 4.51it/s]
train loss:0.001597407696858563
89%|███████████████████████████████████████████████████████████████████▉ | 10733/12000 [41:16<04:41, 4.50it/s]
train loss:0.0012828896513151947
89%|███████████████████████████████████████████████████████████████████▉ | 10734/12000 [41:17<04:37, 4.56it/s]
train loss:8.392351511968104e-05
89%|███████████████████████████████████████████████████████████████████▉ | 10735/12000 [41:17<04:39, 4.52it/s]
train loss:1.8697390092041806e-05
89%|███████████████████████████████████████████████████████████████████▉ | 10736/12000 [41:17<04:40, 4.51it/s]
train loss:0.0002083714176319661
89%|████████████████████████████████████████████████████████████████████ | 10737/12000 [41:17<04:40, 4.50it/s]
train loss:0.00442540470052392
89%|████████████████████████████████████████████████████████████████████ | 10738/12000 [41:18<04:43, 4.46it/s]
train loss:0.0002988985857482697
89%|████████████████████████████████████████████████████████████████████ | 10739/12000 [41:18<04:43, 4.45it/s]
train loss:0.0007180786221286655
90%|████████████████████████████████████████████████████████████████████ | 10740/12000 [41:18<04:44, 4.43it/s]
train loss:0.0021807194979948635
90%|████████████████████████████████████████████████████████████████████ | 10741/12000 [41:18<04:46, 4.40it/s]
train loss:0.0018019132618849623
90%|████████████████████████████████████████████████████████████████████ | 10742/12000 [41:18<04:45, 4.41it/s]
train loss:0.049747514863435045
90%|████████████████████████████████████████████████████████████████████ | 10743/12000 [41:19<04:41, 4.47it/s]
train loss:0.00020248359728353287
90%|████████████████████████████████████████████████████████████████████ | 10744/12000 [41:19<04:42, 4.45it/s]
train loss:0.00048702000878380204
90%|████████████████████████████████████████████████████████████████████ | 10745/12000 [41:19<04:44, 4.42it/s]
train loss:0.0016557982130310314
90%|████████████████████████████████████████████████████████████████████ | 10746/12000 [41:19<04:44, 4.41it/s]
train loss:0.00019647587839926976
90%|████████████████████████████████████████████████████████████████████ | 10747/12000 [41:20<04:43, 4.42it/s]
train loss:0.0002483282017804916
90%|████████████████████████████████████████████████████████████████████ | 10748/12000 [41:20<04:41, 4.44it/s]
train loss:0.00017135657999850122
90%|████████████████████████████████████████████████████████████████████ | 10749/12000 [41:20<04:41, 4.44it/s]
train loss:0.001662760713214682
90%|████████████████████████████████████████████████████████████████████ | 10750/12000 [41:20<04:41, 4.44it/s]
train loss:0.0022279612187019295
90%|████████████████████████████████████████████████████████████████████ | 10751/12000 [41:20<04:41, 4.44it/s]
train loss:0.0008404160795099494
90%|████████████████████████████████████████████████████████████████████ | 10752/12000 [41:21<04:37, 4.49it/s]
train loss:0.0008117609360573028
90%|████████████████████████████████████████████████████████████████████ | 10753/12000 [41:21<04:38, 4.48it/s]
train loss:0.0003377577222162802
90%|████████████████████████████████████████████████████████████████████ | 10754/12000 [41:21<04:38, 4.47it/s]
train loss:0.004836204788766429
90%|████████████████████████████████████████████████████████████████████ | 10755/12000 [41:21<04:39, 4.46it/s]
train loss:0.0005488721597493762
90%|████████████████████████████████████████████████████████████████████ | 10756/12000 [41:22<04:37, 4.48it/s]
train loss:0.0002966981103411506
90%|████████████████████████████████████████████████████████████████████▏ | 10757/12000 [41:22<04:37, 4.48it/s]
train loss:0.00012700128346538957
90%|████████████████████████████████████████████████████████████████████▏ | 10758/12000 [41:22<04:37, 4.47it/s]
train loss:0.005328754684751873
90%|████████████████████████████████████████████████████████████████████▏ | 10759/12000 [41:22<04:38, 4.46it/s]
train loss:0.0013659813411914423
90%|████████████████████████████████████████████████████████████████████▏ | 10760/12000 [41:23<04:39, 4.43it/s]
train loss:0.0009877002831934225
90%|████████████████████████████████████████████████████████████████████▏ | 10761/12000 [41:23<04:36, 4.48it/s]
train loss:0.00020346857306612984
90%|████████████████████████████████████████████████████████████████████▏ | 10762/12000 [41:23<04:37, 4.47it/s]
train loss:0.0032069037232477864
90%|████████████████████████████████████████████████████████████████████▏ | 10763/12000 [41:23<04:37, 4.46it/s]
train loss:0.00011206654989112013
90%|████████████████████████████████████████████████████████████████████▏ | 10764/12000 [41:23<04:37, 4.45it/s]
train loss:3.729980872926377e-05
90%|████████████████████████████████████████████████████████████████████▏ | 10765/12000 [41:24<04:35, 4.48it/s]
train loss:0.0003122368620494471
90%|████████████████████████████████████████████████████████████████████▏ | 10766/12000 [41:24<04:35, 4.47it/s]
train loss:0.001216179018562335
90%|████████████████████████████████████████████████████████████████████▏ | 10767/12000 [41:24<04:36, 4.46it/s]
train loss:0.0001144827099884929
90%|████████████████████████████████████████████████████████████████████▏ | 10768/12000 [41:24<04:37, 4.45it/s]
train loss:7.315070844672978e-05
90%|████████████████████████████████████████████████████████████████████▏ | 10769/12000 [41:25<04:37, 4.44it/s]
train loss:0.000466045856731129
90%|████████████████████████████████████████████████████████████████████▏ | 10770/12000 [41:25<04:51, 4.22it/s]
train loss:0.0005045333607033408
90%|████████████████████████████████████████████████████████████████████▏ | 10771/12000 [41:25<05:03, 4.05it/s]
train loss:0.002444421862445623
90%|████████████████████████████████████████████████████████████████████▏ | 10772/12000 [41:25<05:12, 3.93it/s]
train loss:0.0002741357231377688
90%|████████████████████████████████████████████████████████████████████▏ | 10773/12000 [41:26<05:17, 3.86it/s]
train loss:0.0007838979445694248
90%|████████████████████████████████████████████████████████████████████▏ | 10774/12000 [41:26<05:16, 3.87it/s]
train loss:0.0035771257936320945
90%|████████████████████████████████████████████████████████████████████▏ | 10775/12000 [41:26<05:03, 4.04it/s]
train loss:0.000312049098752454
90%|████████████████████████████████████████████████████████████████████▏ | 10776/12000 [41:26<04:53, 4.16it/s]
train loss:0.0003533917454471129
90%|████████████████████████████████████████████████████████████████████▎ | 10777/12000 [41:27<04:47, 4.26it/s]
train loss:6.903866683647135e-05
90%|████████████████████████████████████████████████████████████████████▎ | 10778/12000 [41:27<04:39, 4.37it/s]
train loss:0.0012325701772718562
90%|████████████████████████████████████████████████████████████████████▎ | 10779/12000 [41:27<04:37, 4.41it/s]
train loss:0.002386716435534391
90%|████████████████████████████████████████████████████████████████████▎ | 10780/12000 [41:27<04:36, 4.42it/s]
train loss:0.0011221962236407526
90%|████████████████████████████████████████████████████████████████████▎ | 10781/12000 [41:27<04:34, 4.44it/s]
train loss:0.00046736319813271444
90%|████████████████████████████████████████████████████████████████████▎ | 10782/12000 [41:28<04:33, 4.45it/s]
train loss:0.0010508782286964356
90%|████████████████████████████████████████████████████████████████████▎ | 10783/12000 [41:28<04:32, 4.47it/s]
train loss:0.002204531214484204
90%|████████████████████████████████████████████████████████████████████▎ | 10784/12000 [41:28<04:31, 4.48it/s]
train loss:0.0019993179209206054
90%|████████████████████████████████████████████████████████████████████▎ | 10785/12000 [41:28<04:31, 4.48it/s]
train loss:0.00023549368906123104
90%|████████████████████████████████████████████████████████████████████▎ | 10786/12000 [41:29<04:32, 4.46it/s]
train loss:0.0003635104729006331
90%|████████████████████████████████████████████████████████████████████▎ | 10787/12000 [41:29<04:28, 4.52it/s]
train loss:0.0010165244600130604
90%|████████████████████████████████████████████████████████████████████▎ | 10788/12000 [41:29<04:28, 4.51it/s]
train loss:0.0009173209624543585
90%|████████████████████████████████████████████████████████████████████▎ | 10789/12000 [41:29<04:30, 4.47it/s]
train loss:0.0019262556505142804
90%|████████████████████████████████████████████████████████████████████▎ | 10790/12000 [41:29<04:31, 4.46it/s]
train loss:0.0008647639163625659
90%|████████████████████████████████████████████████████████████████████▎ | 10791/12000 [41:30<04:28, 4.50it/s]
train loss:0.0002582441753180954
90%|████████████████████████████████████████████████████████████████████▎ | 10792/12000 [41:30<04:28, 4.50it/s]
train loss:0.0002971026636182964
90%|████████████████████████████████████████████████████████████████████▎ | 10793/12000 [41:30<04:28, 4.49it/s]
train loss:0.002086484789881253
90%|████████████████████████████████████████████████████████████████████▎ | 10794/12000 [41:30<04:28, 4.49it/s]
train loss:0.0017250158595443785
90%|████████████████████████████████████████████████████████████████████▎ | 10795/12000 [41:31<04:29, 4.47it/s]
train loss:0.000626647575896737
90%|████████████████████████████████████████████████████████████████████▎ | 10796/12000 [41:31<04:26, 4.52it/s]
train loss:0.0009064698341678842
90%|████████████████████████████████████████████████████████████████████▍ | 10797/12000 [41:31<04:27, 4.50it/s]
train loss:0.0001251157106582982
90%|████████████████████████████████████████████████████████████████████▍ | 10798/12000 [41:31<04:28, 4.47it/s]
train loss:0.0002598022153526734
90%|████████████████████████████████████████████████████████████████████▍ | 10799/12000 [41:31<04:29, 4.46it/s]
train loss:0.002375907608397272
90%|████████████████████████████████████████████████████████████████████▍ | 10800/12000 [41:32<04:25, 4.51it/s]
train loss:0.0056596883913844175 train loss:0.0018318202747736531
90%|████████████████████████████████████████████████████████████████████▍ | 10801/12000 [41:33<13:46, 1.45it/s]
=== epoch:19, train acc:1.0, test acc:0.99 ===
90%|████████████████████████████████████████████████████████████████████▍ | 10802/12000 [41:34<10:57, 1.82it/s]
train loss:0.0012446416110701982
90%|████████████████████████████████████████████████████████████████████▍ | 10803/12000 [41:34<08:59, 2.22it/s]
train loss:0.00015759066038235702
90%|████████████████████████████████████████████████████████████████████▍ | 10804/12000 [41:34<07:37, 2.62it/s]
train loss:0.0001731709039036111
90%|████████████████████████████████████████████████████████████████████▍ | 10805/12000 [41:34<06:40, 2.98it/s]
train loss:0.0013516272812356344
90%|████████████████████████████████████████████████████████████████████▍ | 10806/12000 [41:35<06:00, 3.31it/s]
train loss:0.00045833322044702853
90%|████████████████████████████████████████████████████████████████████▍ | 10807/12000 [41:35<05:30, 3.61it/s]
train loss:0.00018588900837751215
90%|████████████████████████████████████████████████████████████████████▍ | 10808/12000 [41:35<05:11, 3.83it/s]
train loss:0.0022481741599330034
90%|████████████████████████████████████████████████████████████████████▍ | 10809/12000 [41:35<04:58, 3.99it/s]
train loss:0.0001995549982829651
90%|████████████████████████████████████████████████████████████████████▍ | 10810/12000 [41:35<04:48, 4.13it/s]
train loss:0.0018641217388662631
90%|████████████████████████████████████████████████████████████████████▍ | 10811/12000 [41:36<04:39, 4.25it/s]
train loss:0.0001697817067430585
90%|████████████████████████████████████████████████████████████████████▍ | 10812/12000 [41:36<04:36, 4.30it/s]
train loss:0.0007439887019477709
90%|████████████████████████████████████████████████████████████████████▍ | 10813/12000 [41:36<04:32, 4.36it/s]
train loss:0.001740352279514912
90%|████████████████████████████████████████████████████████████████████▍ | 10814/12000 [41:36<04:32, 4.36it/s]
train loss:0.0021990736910491296
90%|████████████████████████████████████████████████████████████████████▍ | 10815/12000 [41:37<04:29, 4.39it/s]
train loss:4.0551181744026674e-05
90%|████████████████████████████████████████████████████████████████████▌ | 10816/12000 [41:37<04:25, 4.45it/s]
train loss:0.000188756007486357
90%|████████████████████████████████████████████████████████████████████▌ | 10817/12000 [41:37<04:25, 4.46it/s]
train loss:0.005509062678618342
90%|████████████████████████████████████████████████████████████████████▌ | 10818/12000 [41:37<04:27, 4.42it/s]
train loss:0.000987868014259094
90%|████████████████████████████████████████████████████████████████████▌ | 10819/12000 [41:37<04:26, 4.44it/s]
train loss:0.002549728511162751
90%|████████████████████████████████████████████████████████████████████▌ | 10820/12000 [41:38<04:21, 4.51it/s]
train loss:8.10005635992352e-05
90%|████████████████████████████████████████████████████████████████████▌ | 10821/12000 [41:38<04:21, 4.50it/s]
train loss:0.00026930447131287886
90%|████████████████████████████████████████████████████████████████████▌ | 10822/12000 [41:38<04:22, 4.49it/s]
train loss:0.00026902269934830046
90%|████████████████████████████████████████████████████████████████████▌ | 10823/12000 [41:38<04:22, 4.49it/s]
train loss:0.0009616541210865953
90%|████████████████████████████████████████████████████████████████████▌ | 10824/12000 [41:39<04:24, 4.45it/s]
train loss:0.0011193648148754402
90%|████████████████████████████████████████████████████████████████████▌ | 10825/12000 [41:39<04:20, 4.51it/s]
train loss:0.0020078871901548626
90%|████████████████████████████████████████████████████████████████████▌ | 10826/12000 [41:39<04:20, 4.50it/s]
train loss:0.0015768467564251545
90%|████████████████████████████████████████████████████████████████████▌ | 10827/12000 [41:39<04:20, 4.50it/s]
train loss:0.01735279004445544
90%|████████████████████████████████████████████████████████████████████▌ | 10828/12000 [41:39<04:21, 4.49it/s]
train loss:8.2609273426797e-05
90%|████████████████████████████████████████████████████████████████████▌ | 10829/12000 [41:40<04:17, 4.54it/s]
train loss:9.039689807633536e-05
90%|████████████████████████████████████████████████████████████████████▌ | 10830/12000 [41:40<04:18, 4.52it/s]
train loss:0.0018688306143997194
90%|████████████████████████████████████████████████████████████████████▌ | 10831/12000 [41:40<04:19, 4.51it/s]
train loss:0.00010954950019727084
90%|████████████████████████████████████████████████████████████████████▌ | 10832/12000 [41:40<04:20, 4.48it/s]
train loss:0.0007123770839931156
90%|████████████████████████████████████████████████████████████████████▌ | 10833/12000 [41:41<04:20, 4.47it/s]
train loss:0.00017164947098899835
90%|████████████████████████████████████████████████████████████████████▌ | 10834/12000 [41:41<04:20, 4.48it/s]
train loss:6.586454181200747e-05
90%|████████████████████████████████████████████████████████████████████▌ | 10835/12000 [41:41<04:19, 4.50it/s]
train loss:0.00033632728926388507
90%|████████████████████████████████████████████████████████████████████▋ | 10836/12000 [41:41<04:19, 4.49it/s]
train loss:0.0007943103672437122
90%|████████████████████████████████████████████████████████████████████▋ | 10837/12000 [41:41<04:18, 4.49it/s]
train loss:0.0020925877484393694
90%|████████████████████████████████████████████████████████████████████▋ | 10838/12000 [41:42<04:15, 4.56it/s]
train loss:0.00031536262901730186
90%|████████████████████████████████████████████████████████████████████▋ | 10839/12000 [41:42<04:16, 4.53it/s]
train loss:0.0020648372855706495
90%|████████████████████████████████████████████████████████████████████▋ | 10840/12000 [41:42<04:17, 4.51it/s]
train loss:0.0008295691842185117
90%|████████████████████████████████████████████████████████████████████▋ | 10841/12000 [41:42<04:17, 4.49it/s]
train loss:0.0011401593057091986
90%|████████████████████████████████████████████████████████████████████▋ | 10842/12000 [41:43<04:18, 4.49it/s]
train loss:0.0002677890794120463
90%|████████████████████████████████████████████████████████████████████▋ | 10843/12000 [41:43<04:15, 4.53it/s]
train loss:0.00039394260255996567
90%|████████████████████████████████████████████████████████████████████▋ | 10844/12000 [41:43<04:15, 4.53it/s]
train loss:0.0014736265848147192
90%|████████████████████████████████████████████████████████████████████▋ | 10845/12000 [41:43<04:16, 4.50it/s]
train loss:7.582000280524466e-05
90%|████████████████████████████████████████████████████████████████████▋ | 10846/12000 [41:43<04:18, 4.47it/s]
train loss:0.0030944393290058643
90%|████████████████████████████████████████████████████████████████████▋ | 10847/12000 [41:44<04:14, 4.53it/s]
train loss:0.0003527540979780726
90%|████████████████████████████████████████████████████████████████████▋ | 10848/12000 [41:44<04:15, 4.50it/s]
train loss:0.0001923497812165645
90%|████████████████████████████████████████████████████████████████████▋ | 10849/12000 [41:44<04:15, 4.50it/s]
train loss:0.0010443266817442309
90%|████████████████████████████████████████████████████████████████████▋ | 10850/12000 [41:44<04:15, 4.50it/s]
train loss:0.0003429234283945021
90%|████████████████████████████████████████████████████████████████████▋ | 10851/12000 [41:45<04:15, 4.49it/s]
train loss:8.669377208726091e-05
90%|████████████████████████████████████████████████████████████████████▋ | 10852/12000 [41:45<04:13, 4.53it/s]
train loss:0.0008854732277268674
90%|████████████████████████████████████████████████████████████████████▋ | 10853/12000 [41:45<04:14, 4.50it/s]
train loss:9.287429116235549e-05
90%|████████████████████████████████████████████████████████████████████▋ | 10854/12000 [41:45<04:14, 4.50it/s]
train loss:5.357528330619787e-05
90%|████████████████████████████████████████████████████████████████████▋ | 10855/12000 [41:45<04:15, 4.49it/s]
train loss:0.0012571020767337276
90%|████████████████████████████████████████████████████████████████████▊ | 10856/12000 [41:46<04:11, 4.54it/s]
train loss:0.00015661330861913386
90%|████████████████████████████████████████████████████████████████████▊ | 10857/12000 [41:46<04:12, 4.53it/s]
train loss:0.00048363687625893056
90%|████████████████████████████████████████████████████████████████████▊ | 10858/12000 [41:46<04:13, 4.50it/s]
train loss:0.001618169806108165
90%|████████████████████████████████████████████████████████████████████▊ | 10859/12000 [41:46<04:14, 4.49it/s]
train loss:0.0006301551179892103
90%|████████████████████████████████████████████████████████████████████▊ | 10860/12000 [41:47<04:14, 4.48it/s]
train loss:0.0020968059128752274
91%|████████████████████████████████████████████████████████████████████▊ | 10861/12000 [41:47<04:11, 4.53it/s]
train loss:0.0005932945874342898
91%|████████████████████████████████████████████████████████████████████▊ | 10862/12000 [41:47<04:12, 4.51it/s]
train loss:0.0028279711281892685
91%|████████████████████████████████████████████████████████████████████▊ | 10863/12000 [41:47<04:13, 4.49it/s]
train loss:6.972548016160481e-05
91%|████████████████████████████████████████████████████████████████████▊ | 10864/12000 [41:47<04:14, 4.46it/s]
train loss:0.00017859803981909626
91%|████████████████████████████████████████████████████████████████████▊ | 10865/12000 [41:48<04:11, 4.50it/s]
train loss:0.0003666624446972877
91%|████████████████████████████████████████████████████████████████████▊ | 10866/12000 [41:48<04:12, 4.49it/s]
train loss:0.00022550862354902927
91%|████████████████████████████████████████████████████████████████████▊ | 10867/12000 [41:48<04:12, 4.49it/s]
train loss:0.0005240768810493493
91%|████████████████████████████████████████████████████████████████████▊ | 10868/12000 [41:48<04:13, 4.47it/s]
train loss:0.00024066818767858687
91%|████████████████████████████████████████████████████████████████████▊ | 10869/12000 [41:49<04:13, 4.47it/s]
train loss:0.0007925852588752294
91%|████████████████████████████████████████████████████████████████████▊ | 10870/12000 [41:49<04:09, 4.52it/s]
train loss:0.0015092568005980905
91%|████████████████████████████████████████████████████████████████████▊ | 10871/12000 [41:49<04:10, 4.50it/s]
train loss:0.0014239143929523574
91%|████████████████████████████████████████████████████████████████████▊ | 10872/12000 [41:49<04:10, 4.50it/s]
train loss:0.003170849111206671
91%|████████████████████████████████████████████████████████████████████▊ | 10873/12000 [41:49<04:10, 4.50it/s]
train loss:0.0009318725952679507
91%|████████████████████████████████████████████████████████████████████▊ | 10874/12000 [41:50<04:06, 4.56it/s]
train loss:0.002790212013537709
91%|████████████████████████████████████████████████████████████████████▉ | 10875/12000 [41:50<04:07, 4.54it/s]
train loss:0.0004632094748654326
91%|████████████████████████████████████████████████████████████████████▉ | 10876/12000 [41:50<04:08, 4.52it/s]
train loss:0.00043046638784021595
91%|████████████████████████████████████████████████████████████████████▉ | 10877/12000 [41:50<04:08, 4.52it/s]
train loss:0.0007415807089491335
91%|████████████████████████████████████████████████████████████████████▉ | 10878/12000 [41:51<04:08, 4.51it/s]
train loss:5.268499110793114e-05
91%|████████████████████████████████████████████████████████████████████▉ | 10879/12000 [41:51<04:06, 4.55it/s]
train loss:0.001311622704481681
91%|████████████████████████████████████████████████████████████████████▉ | 10880/12000 [41:51<04:06, 4.54it/s]
train loss:0.0031565034068547116
91%|████████████████████████████████████████████████████████████████████▉ | 10881/12000 [41:51<04:07, 4.53it/s]
train loss:0.001009188113142967
91%|████████████████████████████████████████████████████████████████████▉ | 10882/12000 [41:51<04:07, 4.52it/s]
train loss:0.00823635862301161
91%|████████████████████████████████████████████████████████████████████▉ | 10883/12000 [41:52<04:05, 4.55it/s]
train loss:0.0010089570462750008
91%|████████████████████████████████████████████████████████████████████▉ | 10884/12000 [41:52<04:05, 4.54it/s]
train loss:0.0007409683365028521
91%|████████████████████████████████████████████████████████████████████▉ | 10885/12000 [41:52<04:06, 4.53it/s]
train loss:0.005914175746421343
91%|████████████████████████████████████████████████████████████████████▉ | 10886/12000 [41:52<04:06, 4.51it/s]
train loss:0.0007604180967469704
91%|████████████████████████████████████████████████████████████████████▉ | 10887/12000 [41:53<04:07, 4.50it/s]
train loss:0.00021233533263860247
91%|████████████████████████████████████████████████████████████████████▉ | 10888/12000 [41:53<04:05, 4.54it/s]
train loss:0.0008071355136425709
91%|████████████████████████████████████████████████████████████████████▉ | 10889/12000 [41:53<04:05, 4.53it/s]
train loss:0.000284041078599339
91%|████████████████████████████████████████████████████████████████████▉ | 10890/12000 [41:53<04:05, 4.52it/s]
train loss:0.0018961764883827733
91%|████████████████████████████████████████████████████████████████████▉ | 10891/12000 [41:53<04:05, 4.51it/s]
train loss:0.0008457169683305462
91%|████████████████████████████████████████████████████████████████████▉ | 10892/12000 [41:54<04:04, 4.54it/s]
train loss:0.0005331061524548241
91%|████████████████████████████████████████████████████████████████████▉ | 10893/12000 [41:54<04:04, 4.53it/s]
train loss:0.0014170782110543585
91%|████████████████████████████████████████████████████████████████████▉ | 10894/12000 [41:54<04:04, 4.52it/s]
train loss:2.40387690962195e-05
91%|█████████████████████████████████████████████████████████████████████ | 10895/12000 [41:54<04:04, 4.51it/s]
train loss:0.0004441099135645653
91%|█████████████████████████████████████████████████████████████████████ | 10896/12000 [41:55<04:05, 4.49it/s]
train loss:0.0033122456595742235
91%|█████████████████████████████████████████████████████████████████████ | 10897/12000 [41:55<04:05, 4.50it/s]
train loss:3.544020803274029e-05
91%|█████████████████████████████████████████████████████████████████████ | 10898/12000 [41:55<04:04, 4.51it/s]
train loss:0.002792869073353989
91%|█████████████████████████████████████████████████████████████████████ | 10899/12000 [41:55<04:05, 4.48it/s]
train loss:0.0024278070758035355
91%|█████████████████████████████████████████████████████████████████████ | 10900/12000 [41:55<04:06, 4.46it/s]
train loss:0.000597767495665706
91%|█████████████████████████████████████████████████████████████████████ | 10901/12000 [41:56<04:04, 4.50it/s]
train loss:0.0007564619354847944
91%|█████████████████████████████████████████████████████████████████████ | 10902/12000 [41:56<04:03, 4.51it/s]
train loss:0.00017761810509256244
91%|█████████████████████████████████████████████████████████████████████ | 10903/12000 [41:56<04:03, 4.51it/s]
train loss:0.0002854017474038747
91%|█████████████████████████████████████████████████████████████████████ | 10904/12000 [41:56<04:04, 4.49it/s]
train loss:0.0003623817314022164
91%|█████████████████████████████████████████████████████████████████████ | 10905/12000 [41:57<04:05, 4.46it/s]
train loss:0.00013028883187285497
91%|█████████████████████████████████████████████████████████████████████ | 10906/12000 [41:57<04:02, 4.50it/s]
train loss:0.002354747953167854
91%|█████████████████████████████████████████████████████████████████████ | 10907/12000 [41:57<04:02, 4.50it/s]
train loss:0.0005812107080390022
91%|█████████████████████████████████████████████████████████████████████ | 10908/12000 [41:57<04:02, 4.51it/s]
train loss:0.0004922399895243287
91%|█████████████████████████████████████████████████████████████████████ | 10909/12000 [41:57<04:02, 4.51it/s]
train loss:0.0010035116016997507
91%|█████████████████████████████████████████████████████████████████████ | 10910/12000 [41:58<04:00, 4.53it/s]
train loss:6.588876965266093e-05
91%|█████████████████████████████████████████████████████████████████████ | 10911/12000 [41:58<04:00, 4.54it/s]
train loss:9.206290221093575e-05
91%|█████████████████████████████████████████████████████████████████████ | 10912/12000 [41:58<04:00, 4.53it/s]
train loss:0.00012255005883527427
91%|█████████████████████████████████████████████████████████████████████ | 10913/12000 [41:58<04:00, 4.52it/s]
train loss:0.0004239293103909275
91%|█████████████████████████████████████████████████████████████████████ | 10914/12000 [41:59<04:01, 4.50it/s]
train loss:0.0016482214532259753
91%|█████████████████████████████████████████████████████████████████████▏ | 10915/12000 [41:59<03:58, 4.55it/s]
train loss:0.001287532470731218
91%|█████████████████████████████████████████████████████████████████████▏ | 10916/12000 [41:59<03:58, 4.54it/s]
train loss:0.0013566969526438287
91%|█████████████████████████████████████████████████████████████████████▏ | 10917/12000 [41:59<03:59, 4.52it/s]
train loss:0.0013080440866665016
91%|█████████████████████████████████████████████████████████████████████▏ | 10918/12000 [41:59<03:59, 4.52it/s]
train loss:5.5031412228161134e-05
91%|█████████████████████████████████████████████████████████████████████▏ | 10919/12000 [42:00<03:57, 4.55it/s]
train loss:0.015117812563091627
91%|█████████████████████████████████████████████████████████████████████▏ | 10920/12000 [42:00<03:57, 4.55it/s]
train loss:0.0008406984513027758
91%|█████████████████████████████████████████████████████████████████████▏ | 10921/12000 [42:00<03:58, 4.53it/s]
train loss:0.00020915379983310327
91%|█████████████████████████████████████████████████████████████████████▏ | 10922/12000 [42:00<03:57, 4.53it/s]
train loss:0.00014692767046160272
91%|█████████████████████████████████████████████████████████████████████▏ | 10923/12000 [42:00<03:58, 4.52it/s]
train loss:0.00016829282584277742
91%|█████████████████████████████████████████████████████████████████████▏ | 10924/12000 [42:01<03:55, 4.57it/s]
train loss:0.00468664037977981
91%|█████████████████████████████████████████████████████████████████████▏ | 10925/12000 [42:01<03:56, 4.55it/s]
train loss:0.01775586142202978
91%|█████████████████████████████████████████████████████████████████████▏ | 10926/12000 [42:01<03:56, 4.54it/s]
train loss:0.0036517480035575924
91%|█████████████████████████████████████████████████████████████████████▏ | 10927/12000 [42:01<03:56, 4.53it/s]
train loss:0.0018925170932049757
91%|█████████████████████████████████████████████████████████████████████▏ | 10928/12000 [42:02<03:57, 4.52it/s]
train loss:0.0013387412284122657
91%|█████████████████████████████████████████████████████████████████████▏ | 10929/12000 [42:02<03:57, 4.52it/s]
train loss:0.0019214385793567725
91%|█████████████████████████████████████████████████████████████████████▏ | 10930/12000 [42:02<03:56, 4.53it/s]
train loss:0.00018260224207365154
91%|█████████████████████████████████████████████████████████████████████▏ | 10931/12000 [42:02<03:56, 4.52it/s]
train loss:0.0014406567146328924
91%|█████████████████████████████████████████████████████████████████████▏ | 10932/12000 [42:02<03:56, 4.52it/s]
train loss:0.0011801712411038214
91%|█████████████████████████████████████████████████████████████████████▏ | 10933/12000 [42:03<03:55, 4.53it/s]
train loss:0.00035512119874519144
91%|█████████████████████████████████████████████████████████████████████▏ | 10934/12000 [42:03<03:55, 4.52it/s]
train loss:0.0013715918401295277
91%|█████████████████████████████████████████████████████████████████████▎ | 10935/12000 [42:03<03:55, 4.52it/s]
train loss:0.001278683204674844
91%|█████████████████████████████████████████████████████████████████████▎ | 10936/12000 [42:03<03:56, 4.50it/s]
train loss:0.0030517902682678276
91%|█████████████████████████████████████████████████████████████████████▎ | 10937/12000 [42:04<03:54, 4.53it/s]
train loss:0.005549584157646028
91%|█████████████████████████████████████████████████████████████████████▎ | 10938/12000 [42:04<03:53, 4.55it/s]
train loss:0.0025884759630665135
91%|█████████████████████████████████████████████████████████████████████▎ | 10939/12000 [42:04<03:54, 4.53it/s]
train loss:0.0020083977012814195
91%|█████████████████████████████████████████████████████████████████████▎ | 10940/12000 [42:04<03:54, 4.52it/s]
train loss:0.0019775932257184606
91%|█████████████████████████████████████████████████████████████████████▎ | 10942/12000 [42:05<03:51, 4.57it/s]
train loss:0.0027750837236737154 train loss:0.005178378405776269
91%|█████████████████████████████████████████████████████████████████████▎ | 10943/12000 [42:05<03:52, 4.56it/s]
train loss:6.388191427529696e-05
91%|█████████████████████████████████████████████████████████████████████▎ | 10944/12000 [42:05<03:52, 4.54it/s]
train loss:0.00025688379537599175
91%|█████████████████████████████████████████████████████████████████████▎ | 10945/12000 [42:05<03:53, 4.52it/s]
train loss:0.00212426543656515
91%|█████████████████████████████████████████████████████████████████████▎ | 10946/12000 [42:06<03:53, 4.52it/s]
train loss:0.0009524143246935401
91%|█████████████████████████████████████████████████████████████████████▎ | 10947/12000 [42:06<03:51, 4.55it/s]
train loss:0.00037005790905495807
91%|█████████████████████████████████████████████████████████████████████▎ | 10948/12000 [42:06<03:52, 4.52it/s]
train loss:0.0011937460531287205
91%|█████████████████████████████████████████████████████████████████████▎ | 10949/12000 [42:06<03:53, 4.50it/s]
train loss:0.004081979030098491
91%|█████████████████████████████████████████████████████████████████████▎ | 10950/12000 [42:06<03:54, 4.48it/s]
train loss:0.040478217833828226
91%|█████████████████████████████████████████████████████████████████████▎ | 10951/12000 [42:07<03:51, 4.52it/s]
train loss:0.0032236135776438973
91%|█████████████████████████████████████████████████████████████████████▎ | 10952/12000 [42:07<03:51, 4.52it/s]
train loss:0.012831469965903458
91%|█████████████████████████████████████████████████████████████████████▎ | 10953/12000 [42:07<03:51, 4.52it/s]
train loss:0.015963520646605448
91%|█████████████████████████████████████████████████████████████████████▍ | 10954/12000 [42:07<03:51, 4.52it/s]
train loss:0.0018052782418034583
91%|█████████████████████████████████████████████████████████████████████▍ | 10955/12000 [42:08<03:51, 4.51it/s]
train loss:3.755857308635802e-05
91%|█████████████████████████████████████████████████████████████████████▍ | 10956/12000 [42:08<03:49, 4.55it/s]
train loss:0.0028119126944150274
91%|█████████████████████████████████████████████████████████████████████▍ | 10957/12000 [42:08<03:50, 4.53it/s]
train loss:0.003804189552496524
91%|█████████████████████████████████████████████████████████████████████▍ | 10958/12000 [42:08<03:51, 4.51it/s]
train loss:0.0014409803507967143
91%|█████████████████████████████████████████████████████████████████████▍ | 10959/12000 [42:08<03:50, 4.51it/s]
train loss:0.01489113734622739
91%|█████████████████████████████████████████████████████████████████████▍ | 10960/12000 [42:09<03:48, 4.55it/s]
train loss:0.0008828785047634288
91%|█████████████████████████████████████████████████████████████████████▍ | 10961/12000 [42:09<03:49, 4.52it/s]
train loss:0.009800946987452677
91%|█████████████████████████████████████████████████████████████████████▍ | 10962/12000 [42:09<03:49, 4.52it/s]
train loss:7.508256204639187e-05
91%|█████████████████████████████████████████████████████████████████████▍ | 10963/12000 [42:09<03:49, 4.51it/s]
train loss:0.042016797418420036
91%|█████████████████████████████████████████████████████████████████████▍ | 10965/12000 [42:10<03:46, 4.57it/s]
train loss:0.00034009750260661386 train loss:0.0012546962476646982
91%|█████████████████████████████████████████████████████████████████████▍ | 10966/12000 [42:10<03:46, 4.56it/s]
train loss:0.0004899240951896631
91%|█████████████████████████████████████████████████████████████████████▍ | 10967/12000 [42:10<03:47, 4.55it/s]
train loss:0.002076287514011577
91%|█████████████████████████████████████████████████████████████████████▍ | 10968/12000 [42:10<03:49, 4.50it/s]
train loss:0.0012798786997147004
91%|█████████████████████████████████████████████████████████████████████▍ | 10969/12000 [42:11<03:46, 4.56it/s]
train loss:0.004002807267175474
91%|█████████████████████████████████████████████████████████████████████▍ | 10970/12000 [42:11<03:46, 4.54it/s]
train loss:0.0026975242114019526
91%|█████████████████████████████████████████████████████████████████████▍ | 10971/12000 [42:11<03:46, 4.54it/s]
train loss:0.00278570329267924
91%|█████████████████████████████████████████████████████████████████████▍ | 10972/12000 [42:11<03:46, 4.53it/s]
train loss:0.005076941190444003
91%|█████████████████████████████████████████████████████████████████████▍ | 10973/12000 [42:12<03:47, 4.52it/s]
train loss:0.007437974294457588
91%|█████████████████████████████████████████████████████████████████████▌ | 10974/12000 [42:12<03:44, 4.57it/s]
train loss:0.0007449034122309479
91%|█████████████████████████████████████████████████████████████████████▌ | 10975/12000 [42:12<03:45, 4.55it/s]
train loss:0.0019725415023053913
91%|█████████████████████████████████████████████████████████████████████▌ | 10976/12000 [42:12<03:46, 4.53it/s]
train loss:0.0045099621266602
91%|█████████████████████████████████████████████████████████████████████▌ | 10977/12000 [42:12<03:46, 4.52it/s]
train loss:0.0023232046832802
91%|█████████████████████████████████████████████████████████████████████▌ | 10978/12000 [42:13<03:48, 4.46it/s]
train loss:0.00332279952324386
91%|█████████████████████████████████████████████████████████████████████▌ | 10979/12000 [42:13<03:47, 4.48it/s]
train loss:0.002837955312014539
92%|█████████████████████████████████████████████████████████████████████▌ | 10980/12000 [42:13<03:48, 4.46it/s]
train loss:0.01900240375339827
92%|█████████████████████████████████████████████████████████████████████▌ | 10981/12000 [42:13<03:47, 4.49it/s]
train loss:0.0001483203657817438
92%|█████████████████████████████████████████████████████████████████████▌ | 10982/12000 [42:14<03:48, 4.46it/s]
train loss:0.0008609485402837665 train loss:0.001240834413565518
92%|█████████████████████████████████████████████████████████████████████▌ | 10984/12000 [42:14<03:44, 4.53it/s]
train loss:0.00025832113798484837
92%|█████████████████████████████████████████████████████████████████████▌ | 10985/12000 [42:14<03:44, 4.53it/s]
train loss:0.02358865200200066
92%|█████████████████████████████████████████████████████████████████████▌ | 10986/12000 [42:14<03:44, 4.51it/s]
train loss:0.0006385853270214825
92%|█████████████████████████████████████████████████████████████████████▌ | 10987/12000 [42:15<03:42, 4.55it/s]
train loss:0.0010684110595030802
92%|█████████████████████████████████████████████████████████████████████▌ | 10988/12000 [42:15<03:42, 4.55it/s]
train loss:0.00046952343365704095
92%|█████████████████████████████████████████████████████████████████████▌ | 10989/12000 [42:15<03:42, 4.54it/s]
train loss:0.0010936468891671145
92%|█████████████████████████████████████████████████████████████████████▌ | 10990/12000 [42:15<03:42, 4.53it/s]
train loss:0.005758295934849949
92%|█████████████████████████████████████████████████████████████████████▌ | 10991/12000 [42:16<03:42, 4.53it/s]
train loss:0.0021365892566855807
92%|█████████████████████████████████████████████████████████████████████▌ | 10992/12000 [42:16<03:40, 4.58it/s]
train loss:0.02536577531905945
92%|█████████████████████████████████████████████████████████████████████▌ | 10993/12000 [42:16<03:41, 4.55it/s]
train loss:0.02570841060120764
92%|█████████████████████████████████████████████████████████████████████▋ | 10994/12000 [42:16<03:41, 4.54it/s]
train loss:0.0037863408631369725
92%|█████████████████████████████████████████████████████████████████████▋ | 10995/12000 [42:16<03:41, 4.53it/s]
train loss:0.003727628269879984
92%|█████████████████████████████████████████████████████████████████████▋ | 10996/12000 [42:17<03:41, 4.54it/s]
train loss:0.0010803642916178253
92%|█████████████████████████████████████████████████████████████████████▋ | 10997/12000 [42:17<03:40, 4.54it/s]
train loss:0.0010474740212420353
92%|█████████████████████████████████████████████████████████████████████▋ | 10998/12000 [42:17<03:40, 4.54it/s]
train loss:0.004769046233604933
92%|█████████████████████████████████████████████████████████████████████▋ | 10999/12000 [42:17<03:42, 4.51it/s]
train loss:0.0016273844171852225
92%|█████████████████████████████████████████████████████████████████████▋ | 11001/12000 [42:18<03:38, 4.56it/s]
train loss:0.0009950828754946624 train loss:0.0022423349800799867
92%|█████████████████████████████████████████████████████████████████████▋ | 11002/12000 [42:18<03:39, 4.55it/s]
train loss:0.00036647418599165945
92%|█████████████████████████████████████████████████████████████████████▋ | 11003/12000 [42:18<03:39, 4.54it/s]
train loss:0.0006283847811639248
92%|█████████████████████████████████████████████████████████████████████▋ | 11004/12000 [42:18<03:39, 4.53it/s]
train loss:0.001697884797007549
92%|█████████████████████████████████████████████████████████████████████▋ | 11005/12000 [42:19<03:39, 4.54it/s]
train loss:0.001042801400152736
92%|█████████████████████████████████████████████████████████████████████▋ | 11006/12000 [42:19<03:37, 4.56it/s]
train loss:0.002976775420346897
92%|█████████████████████████████████████████████████████████████████████▋ | 11007/12000 [42:19<03:38, 4.54it/s]
train loss:0.006347530817934352
92%|█████████████████████████████████████████████████████████████████████▋ | 11008/12000 [42:19<03:38, 4.54it/s]
train loss:0.0005065508154652121
92%|█████████████████████████████████████████████████████████████████████▋ | 11009/12000 [42:19<03:39, 4.52it/s]
train loss:0.003504864839375671
92%|█████████████████████████████████████████████████████████████████████▋ | 11010/12000 [42:20<03:37, 4.55it/s]
train loss:0.010368296824988504
92%|█████████████████████████████████████████████████████████████████████▋ | 11011/12000 [42:20<03:38, 4.53it/s]
train loss:0.0002502685425864237
92%|█████████████████████████████████████████████████████████████████████▋ | 11012/12000 [42:20<03:38, 4.53it/s]
train loss:0.002778009878594269
92%|█████████████████████████████████████████████████████████████████████▋ | 11013/12000 [42:20<03:38, 4.52it/s]
train loss:0.002297239003887769
92%|█████████████████████████████████████████████████████████████████████▊ | 11014/12000 [42:21<03:37, 4.53it/s]
train loss:0.0005916407786370804
92%|█████████████████████████████████████████████████████████████████████▊ | 11015/12000 [42:21<03:36, 4.55it/s]
train loss:0.003724944844099155
92%|█████████████████████████████████████████████████████████████████████▊ | 11016/12000 [42:21<03:36, 4.54it/s]
train loss:0.0006643628302998752
92%|█████████████████████████████████████████████████████████████████████▊ | 11017/12000 [42:21<03:37, 4.53it/s]
train loss:0.00243316690504584
92%|█████████████████████████████████████████████████████████████████████▊ | 11018/12000 [42:21<03:37, 4.52it/s]
train loss:0.00040098040317602707 train loss:0.01630151138063656
92%|█████████████████████████████████████████████████████████████████████▊ | 11020/12000 [42:22<03:35, 4.55it/s]
train loss:0.0025315273113919
92%|█████████████████████████████████████████████████████████████████████▊ | 11021/12000 [42:22<03:36, 4.53it/s]
train loss:0.0024298285102557944
92%|█████████████████████████████████████████████████████████████████████▊ | 11022/12000 [42:22<03:36, 4.52it/s]
train loss:3.014120858094719e-05
92%|█████████████████████████████████████████████████████████████████████▊ | 11023/12000 [42:23<03:35, 4.52it/s]
train loss:0.0007131761697684848
92%|█████████████████████████████████████████████████████████████████████▊ | 11024/12000 [42:23<03:34, 4.56it/s]
train loss:0.0002282546223593116
92%|█████████████████████████████████████████████████████████████████████▊ | 11025/12000 [42:23<03:34, 4.54it/s]
train loss:0.0015308456602823207
92%|█████████████████████████████████████████████████████████████████████▊ | 11026/12000 [42:23<03:35, 4.53it/s]
train loss:0.002939068370641021
92%|█████████████████████████████████████████████████████████████████████▊ | 11027/12000 [42:23<03:35, 4.51it/s]
train loss:0.0009425728160557606
92%|█████████████████████████████████████████████████████████████████████▊ | 11028/12000 [42:24<03:33, 4.55it/s]
train loss:0.0010954940244557003
92%|█████████████████████████████████████████████████████████████████████▊ | 11029/12000 [42:24<03:33, 4.54it/s]
train loss:0.0018967280616590532
92%|█████████████████████████████████████████████████████████████████████▊ | 11030/12000 [42:24<03:34, 4.53it/s]
train loss:0.0015866293648305301
92%|█████████████████████████████████████████████████████████████████████▊ | 11031/12000 [42:24<03:34, 4.52it/s]
train loss:0.002807359000920737
92%|█████████████████████████████████████████████████████████████████████▊ | 11032/12000 [42:25<03:34, 4.52it/s]
train loss:0.0008615817281339986
92%|█████████████████████████████████████████████████████████████████████▉ | 11033/12000 [42:25<03:32, 4.56it/s]
train loss:0.0017411468538936776
92%|█████████████████████████████████████████████████████████████████████▉ | 11034/12000 [42:25<03:32, 4.55it/s]
train loss:0.004932834328835102
92%|█████████████████████████████████████████████████████████████████████▉ | 11035/12000 [42:25<03:32, 4.53it/s]
train loss:0.0013562818692172231
92%|█████████████████████████████████████████████████████████████████████▉ | 11036/12000 [42:25<03:33, 4.52it/s]
train loss:0.001559239839979818
92%|█████████████████████████████████████████████████████████████████████▉ | 11037/12000 [42:26<03:30, 4.57it/s]
train loss:0.0002452373152320483
92%|█████████████████████████████████████████████████████████████████████▉ | 11038/12000 [42:26<03:31, 4.55it/s]
train loss:0.00046082138406882306
92%|█████████████████████████████████████████████████████████████████████▉ | 11039/12000 [42:26<03:31, 4.54it/s]
train loss:0.0006216295239286594
92%|█████████████████████████████████████████████████████████████████████▉ | 11040/12000 [42:26<03:31, 4.53it/s]
train loss:0.0009254296568232033
92%|█████████████████████████████████████████████████████████████████████▉ | 11041/12000 [42:27<03:32, 4.51it/s]
train loss:0.017955186626749494
92%|█████████████████████████████████████████████████████████████████████▉ | 11042/12000 [42:27<03:30, 4.56it/s]
train loss:0.0003780140742538397
92%|█████████████████████████████████████████████████████████████████████▉ | 11043/12000 [42:27<03:31, 4.52it/s]
train loss:0.004237797953755747
92%|█████████████████████████████████████████████████████████████████████▉ | 11044/12000 [42:27<03:33, 4.47it/s]
train loss:0.0015629861684165766
92%|█████████████████████████████████████████████████████████████████████▉ | 11045/12000 [42:27<03:33, 4.48it/s]
train loss:0.0014506920033450373
92%|█████████████████████████████████████████████████████████████████████▉ | 11046/12000 [42:28<03:30, 4.54it/s]
train loss:0.006168171493251044
92%|█████████████████████████████████████████████████████████████████████▉ | 11047/12000 [42:28<03:33, 4.47it/s]
train loss:0.0002712552333534709
92%|█████████████████████████████████████████████████████████████████████▉ | 11048/12000 [42:28<03:34, 4.45it/s]
train loss:0.008108342586043388
92%|█████████████████████████████████████████████████████████████████████▉ | 11049/12000 [42:28<03:33, 4.45it/s]
train loss:0.0015951099901722124
92%|█████████████████████████████████████████████████████████████████████▉ | 11050/12000 [42:29<03:33, 4.44it/s]
train loss:0.0005044696133247702
92%|█████████████████████████████████████████████████████████████████████▉ | 11051/12000 [42:29<03:32, 4.46it/s]
train loss:0.0016368352651873412
92%|█████████████████████████████████████████████████████████████████████▉ | 11052/12000 [42:29<03:31, 4.47it/s]
train loss:0.0005618338244874171
92%|██████████████████████████████████████████████████████████████████████ | 11053/12000 [42:29<03:31, 4.49it/s]
train loss:0.0005897589354096999
92%|██████████████████████████████████████████████████████████████████████ | 11054/12000 [42:29<03:31, 4.47it/s]
train loss:0.0004649398142262341
92%|██████████████████████████████████████████████████████████████████████ | 11055/12000 [42:30<03:29, 4.51it/s]
train loss:0.0024751381063914464
92%|██████████████████████████████████████████████████████████████████████ | 11056/12000 [42:30<03:29, 4.51it/s]
train loss:0.002117652613745318
92%|██████████████████████████████████████████████████████████████████████ | 11057/12000 [42:30<03:28, 4.52it/s]
train loss:0.0010660928741853802
92%|██████████████████████████████████████████████████████████████████████ | 11058/12000 [42:30<03:29, 4.50it/s]
train loss:0.0010478506358123424
92%|██████████████████████████████████████████████████████████████████████ | 11059/12000 [42:31<03:28, 4.51it/s]
train loss:0.0017573112647287247
92%|██████████████████████████████████████████████████████████████████████ | 11060/12000 [42:31<03:26, 4.55it/s]
train loss:0.0005435248423248258
92%|██████████████████████████████████████████████████████████████████████ | 11061/12000 [42:31<03:28, 4.50it/s]
train loss:0.0015362789356438641
92%|██████████████████████████████████████████████████████████████████████ | 11062/12000 [42:31<03:29, 4.49it/s]
train loss:0.0011507715670968813
92%|██████████████████████████████████████████████████████████████████████ | 11063/12000 [42:31<03:30, 4.46it/s]
train loss:0.004994786644137915
92%|██████████████████████████████████████████████████████████████████████ | 11064/12000 [42:32<03:26, 4.52it/s]
train loss:0.00011548010111182235
92%|██████████████████████████████████████████████████████████████████████ | 11065/12000 [42:32<03:26, 4.52it/s]
train loss:0.0011145659780949202
92%|██████████████████████████████████████████████████████████████████████ | 11066/12000 [42:32<03:26, 4.52it/s]
train loss:0.0002430362251140811
92%|██████████████████████████████████████████████████████████████████████ | 11067/12000 [42:32<03:26, 4.51it/s]
train loss:0.0016721497011383353
92%|██████████████████████████████████████████████████████████████████████ | 11068/12000 [42:33<03:27, 4.50it/s]
train loss:0.0011387557060465866
92%|██████████████████████████████████████████████████████████████████████ | 11069/12000 [42:33<03:24, 4.54it/s]
train loss:0.0003154618611463203
92%|██████████████████████████████████████████████████████████████████████ | 11070/12000 [42:33<03:24, 4.54it/s]
train loss:0.0021150920198774337
92%|██████████████████████████████████████████████████████████████████████ | 11071/12000 [42:33<03:25, 4.51it/s]
train loss:0.0016805389083522073
92%|██████████████████████████████████████████████████████████████████████ | 11072/12000 [42:33<03:26, 4.50it/s]
train loss:0.0018855648501411872
92%|██████████████████████████████████████████████████████████████████████▏ | 11073/12000 [42:34<03:23, 4.55it/s]
train loss:0.0008504582506089788
92%|██████████████████████████████████████████████████████████████████████▏ | 11074/12000 [42:34<03:24, 4.54it/s]
train loss:0.00730898038804547
92%|██████████████████████████████████████████████████████████████████████▏ | 11075/12000 [42:34<03:24, 4.53it/s]
train loss:0.0002745232896696289
92%|██████████████████████████████████████████████████████████████████████▏ | 11076/12000 [42:34<03:24, 4.51it/s]
train loss:0.0015100449087486242
92%|██████████████████████████████████████████████████████████████████████▏ | 11077/12000 [42:35<03:24, 4.50it/s]
train loss:0.0016214900568632304
92%|██████████████████████████████████████████████████████████████████████▏ | 11078/12000 [42:35<03:27, 4.44it/s]
train loss:0.003455249915398514
92%|██████████████████████████████████████████████████████████████████████▏ | 11079/12000 [42:35<03:28, 4.42it/s]
train loss:0.004015371354715987
92%|██████████████████████████████████████████████████████████████████████▏ | 11080/12000 [42:35<03:27, 4.44it/s]
train loss:0.0012243759758481976
92%|██████████████████████████████████████████████████████████████████████▏ | 11081/12000 [42:35<03:26, 4.44it/s]
train loss:0.0004259537743475795
92%|██████████████████████████████████████████████████████████████████████▏ | 11082/12000 [42:36<03:24, 4.50it/s]
train loss:6.254503054304359e-05
92%|██████████████████████████████████████████████████████████████████████▏ | 11083/12000 [42:36<03:25, 4.47it/s]
train loss:0.0003670531002042984
92%|██████████████████████████████████████████████████████████████████████▏ | 11084/12000 [42:36<03:25, 4.45it/s]
train loss:0.001918087042015309
92%|██████████████████████████████████████████████████████████████████████▏ | 11085/12000 [42:36<03:25, 4.46it/s]
train loss:0.00024932336222176996
92%|██████████████████████████████████████████████████████████████████████▏ | 11086/12000 [42:37<03:24, 4.46it/s]
train loss:0.00020690083139732654
92%|██████████████████████████████████████████████████████████████████████▏ | 11087/12000 [42:37<03:22, 4.51it/s]
train loss:0.0014435829213613849
92%|██████████████████████████████████████████████████████████████████████▏ | 11088/12000 [42:37<03:22, 4.50it/s]
train loss:0.0001389616040014471
92%|██████████████████████████████████████████████████████████████████████▏ | 11089/12000 [42:37<03:23, 4.49it/s]
train loss:0.0008177837452796773
92%|██████████████████████████████████████████████████████████████████████▏ | 11090/12000 [42:37<03:23, 4.48it/s]
train loss:0.0014051303722444682
92%|██████████████████████████████████████████████████████████████████████▏ | 11091/12000 [42:38<03:20, 4.52it/s]
train loss:0.001020192728606099
92%|██████████████████████████████████████████████████████████████████████▏ | 11092/12000 [42:38<03:21, 4.52it/s]
train loss:0.01676361740461457
92%|██████████████████████████████████████████████████████████████████████▎ | 11093/12000 [42:38<03:20, 4.52it/s]
train loss:0.0004632270356602223
92%|██████████████████████████████████████████████████████████████████████▎ | 11094/12000 [42:38<03:21, 4.50it/s]
train loss:0.0008701174098215726
92%|██████████████████████████████████████████████████████████████████████▎ | 11095/12000 [42:39<03:20, 4.51it/s]
train loss:0.0034755484188301084
92%|██████████████████████████████████████████████████████████████████████▎ | 11096/12000 [42:39<03:18, 4.55it/s]
train loss:0.0014740152950300132
92%|██████████████████████████████████████████████████████████████████████▎ | 11097/12000 [42:39<03:19, 4.54it/s]
train loss:0.0008063901562329025
92%|██████████████████████████████████████████████████████████████████████▎ | 11098/12000 [42:39<03:19, 4.52it/s]
train loss:0.0019680524336824477
92%|██████████████████████████████████████████████████████████████████████▎ | 11099/12000 [42:39<03:20, 4.50it/s]
train loss:0.00018016040389479235
92%|██████████████████████████████████████████████████████████████████████▎ | 11100/12000 [42:40<03:18, 4.54it/s]
train loss:0.0007034200228576524
93%|██████████████████████████████████████████████████████████████████████▎ | 11101/12000 [42:40<03:19, 4.52it/s]
train loss:0.0003495893960652159
93%|██████████████████████████████████████████████████████████████████████▎ | 11102/12000 [42:40<03:19, 4.50it/s]
train loss:0.0012736570615677614
93%|██████████████████████████████████████████████████████████████████████▎ | 11103/12000 [42:40<03:19, 4.50it/s]
train loss:0.0002069552421711128
93%|██████████████████████████████████████████████████████████████████████▎ | 11104/12000 [42:41<03:19, 4.49it/s]
train loss:0.000345961272838824
93%|██████████████████████████████████████████████████████████████████████▎ | 11105/12000 [42:41<03:16, 4.55it/s]
train loss:0.0032422118621016575
93%|██████████████████████████████████████████████████████████████████████▎ | 11106/12000 [42:41<03:17, 4.53it/s]
train loss:0.003022156589298536
93%|██████████████████████████████████████████████████████████████████████▎ | 11107/12000 [42:41<03:17, 4.53it/s]
train loss:0.0035367181912433704
93%|██████████████████████████████████████████████████████████████████████▎ | 11108/12000 [42:41<03:17, 4.51it/s]
train loss:0.0031761071787517127
93%|██████████████████████████████████████████████████████████████████████▎ | 11109/12000 [42:42<03:15, 4.55it/s]
train loss:0.00016270996585108306
93%|██████████████████████████████████████████████████████████████████████▎ | 11110/12000 [42:42<03:17, 4.51it/s]
train loss:0.0003074739940959053
93%|██████████████████████████████████████████████████████████████████████▎ | 11111/12000 [42:42<03:17, 4.50it/s]
train loss:0.0005051345264674901
93%|██████████████████████████████████████████████████████████████████████▍ | 11112/12000 [42:42<03:18, 4.48it/s]
train loss:0.0007608974343266788
93%|██████████████████████████████████████████████████████████████████████▍ | 11113/12000 [42:43<03:17, 4.48it/s]
train loss:0.005615429955348563
93%|██████████████████████████████████████████████████████████████████████▍ | 11114/12000 [42:43<03:15, 4.54it/s]
train loss:0.0002981210908433204
93%|██████████████████████████████████████████████████████████████████████▍ | 11115/12000 [42:43<03:16, 4.51it/s]
train loss:0.0001411159129565112
93%|██████████████████████████████████████████████████████████████████████▍ | 11116/12000 [42:43<03:16, 4.50it/s]
train loss:0.0009328505340849935
93%|██████████████████████████████████████████████████████████████████████▍ | 11117/12000 [42:43<03:16, 4.50it/s]
train loss:0.002596036479510011
93%|██████████████████████████████████████████████████████████████████████▍ | 11118/12000 [42:44<03:13, 4.56it/s]
train loss:0.002612868862038068
93%|██████████████████████████████████████████████████████████████████████▍ | 11119/12000 [42:44<03:16, 4.48it/s]
train loss:0.0005701568783721786
93%|██████████████████████████████████████████████████████████████████████▍ | 11120/12000 [42:44<03:16, 4.48it/s]
train loss:0.005436119135643715
93%|██████████████████████████████████████████████████████████████████████▍ | 11121/12000 [42:44<03:16, 4.48it/s]
train loss:0.003326322090170379
93%|██████████████████████████████████████████████████████████████████████▍ | 11122/12000 [42:45<03:16, 4.47it/s]
train loss:0.002306197528668777
93%|██████████████████████████████████████████████████████████████████████▍ | 11123/12000 [42:45<03:14, 4.52it/s]
train loss:0.0007640340200351148
93%|██████████████████████████████████████████████████████████████████████▍ | 11124/12000 [42:45<03:13, 4.52it/s]
train loss:0.0006746491189163916
93%|██████████████████████████████████████████████████████████████████████▍ | 11125/12000 [42:45<03:13, 4.51it/s]
train loss:0.0009914958237059628
93%|██████████████████████████████████████████████████████████████████████▍ | 11126/12000 [42:45<03:14, 4.50it/s]
train loss:0.005066330109941287
93%|██████████████████████████████████████████████████████████████████████▍ | 11127/12000 [42:46<03:11, 4.56it/s]
train loss:5.7976815078266805e-05
93%|██████████████████████████████████████████████████████████████████████▍ | 11128/12000 [42:46<03:11, 4.54it/s]
train loss:0.0002969047376385613
93%|██████████████████████████████████████████████████████████████████████▍ | 11129/12000 [42:46<03:11, 4.54it/s]
train loss:0.0005055875495029121
93%|██████████████████████████████████████████████████████████████████████▍ | 11130/12000 [42:46<03:12, 4.52it/s]
train loss:0.00041104001593633525
93%|██████████████████████████████████████████████████████████████████████▌ | 11132/12000 [42:47<03:10, 4.56it/s]
train loss:0.002473969321567256 train loss:0.0014076190301692498
93%|██████████████████████████████████████████████████████████████████████▌ | 11133/12000 [42:47<03:11, 4.53it/s]
train loss:0.0005289849985731124
93%|██████████████████████████████████████████████████████████████████████▌ | 11134/12000 [42:47<03:11, 4.53it/s]
train loss:0.0019718548103978906
93%|██████████████████████████████████████████████████████████████████████▌ | 11135/12000 [42:47<03:11, 4.51it/s]
train loss:0.0003096924284558763
93%|██████████████████████████████████████████████████████████████████████▌ | 11136/12000 [42:48<03:10, 4.55it/s]
train loss:0.003918385961274188
93%|██████████████████████████████████████████████████████████████████████▌ | 11137/12000 [42:48<03:09, 4.55it/s]
train loss:0.0014685571532353293
93%|██████████████████████████████████████████████████████████████████████▌ | 11138/12000 [42:48<03:10, 4.53it/s]
train loss:0.0004336914715659676
93%|██████████████████████████████████████████████████████████████████████▌ | 11139/12000 [42:48<03:10, 4.52it/s]
train loss:3.002326874364662e-05
93%|██████████████████████████████████████████████████████████████████████▌ | 11140/12000 [42:49<03:10, 4.51it/s]
train loss:0.0005762842387630952
93%|██████████████████████████████████████████████████████████████████████▌ | 11141/12000 [42:49<03:08, 4.55it/s]
train loss:0.0008613832613468909
93%|██████████████████████████████████████████████████████████████████████▌ | 11142/12000 [42:49<03:08, 4.54it/s]
train loss:0.0013487061086226674
93%|██████████████████████████████████████████████████████████████████████▌ | 11143/12000 [42:49<03:09, 4.53it/s]
train loss:0.001735369754557894
93%|██████████████████████████████████████████████████████████████████████▌ | 11144/12000 [42:49<03:08, 4.53it/s]
train loss:0.008528271788317679
93%|██████████████████████████████████████████████████████████████████████▌ | 11145/12000 [42:50<03:07, 4.55it/s]
train loss:0.0007924280855311208
93%|██████████████████████████████████████████████████████████████████████▌ | 11146/12000 [42:50<03:07, 4.55it/s]
train loss:0.0007064703447336953
93%|██████████████████████████████████████████████████████████████████████▌ | 11147/12000 [42:50<03:08, 4.54it/s]
train loss:0.0003410467112166668
93%|██████████████████████████████████████████████████████████████████████▌ | 11148/12000 [42:50<03:07, 4.53it/s]
train loss:9.535797935507303e-05
93%|██████████████████████████████████████████████████████████████████████▌ | 11149/12000 [42:50<03:08, 4.51it/s]
train loss:0.0002556352496771487
93%|██████████████████████████████████████████████████████████████████████▌ | 11150/12000 [42:51<03:05, 4.57it/s]
train loss:0.00010122794394942814
93%|██████████████████████████████████████████████████████████████████████▌ | 11151/12000 [42:51<03:06, 4.55it/s]
train loss:0.00022110659303053285
93%|██████████████████████████████████████████████████████████████████████▋ | 11152/12000 [42:51<03:06, 4.54it/s]
train loss:0.0008434472677993085
93%|██████████████████████████████████████████████████████████████████████▋ | 11153/12000 [42:51<03:06, 4.53it/s]
train loss:0.0014660112050405806
93%|██████████████████████████████████████████████████████████████████████▋ | 11154/12000 [42:52<03:06, 4.53it/s]
train loss:0.000817261694177223
93%|██████████████████████████████████████████████████████████████████████▋ | 11155/12000 [42:52<03:06, 4.54it/s]
train loss:0.0005654583951211047
93%|██████████████████████████████████████████████████████████████████████▋ | 11156/12000 [42:52<03:06, 4.53it/s]
train loss:0.00013437729467575903
93%|██████████████████████████████████████████████████████████████████████▋ | 11157/12000 [42:52<03:06, 4.52it/s]
train loss:0.0026472764984659504
93%|██████████████████████████████████████████████████████████████████████▋ | 11159/12000 [42:53<03:04, 4.56it/s]
train loss:0.0005864329719774598 train loss:0.0007304740291271262
93%|██████████████████████████████████████████████████████████████████████▋ | 11160/12000 [42:53<03:05, 4.54it/s]
train loss:0.0013505697651552866
93%|██████████████████████████████████████████████████████████████████████▋ | 11161/12000 [42:53<03:05, 4.53it/s]
train loss:0.0012170881574097086
93%|██████████████████████████████████████████████████████████████████████▋ | 11162/12000 [42:53<03:05, 4.52it/s]
train loss:0.0015121062475592147
93%|██████████████████████████████████████████████████████████████████████▋ | 11163/12000 [42:54<03:05, 4.52it/s]
train loss:0.0022159303584438216
93%|██████████████████████████████████████████████████████████████████████▋ | 11164/12000 [42:54<03:03, 4.54it/s]
train loss:0.0010676107835639885
93%|██████████████████████████████████████████████████████████████████████▋ | 11165/12000 [42:54<03:05, 4.51it/s]
train loss:0.0011727985180411697
93%|██████████████████████████████████████████████████████████████████████▋ | 11166/12000 [42:54<03:05, 4.51it/s]
train loss:0.0006756460020481642
93%|██████████████████████████████████████████████████████████████████████▋ | 11167/12000 [42:54<03:05, 4.49it/s]
train loss:0.001737847644718678
93%|██████████████████████████████████████████████████████████████████████▋ | 11168/12000 [42:55<03:03, 4.54it/s]
train loss:0.0010553667743460745
93%|██████████████████████████████████████████████████████████████████████▋ | 11169/12000 [42:55<03:03, 4.53it/s]
train loss:2.3913514122435257e-05
93%|██████████████████████████████████████████████████████████████████████▋ | 11170/12000 [42:55<03:03, 4.52it/s]
train loss:0.0011203530725277236
93%|██████████████████████████████████████████████████████████████████████▋ | 11171/12000 [42:55<03:03, 4.51it/s]
train loss:0.00035660825251595233
93%|██████████████████████████████████████████████████████████████████████▊ | 11172/12000 [42:56<03:03, 4.51it/s]
train loss:0.0007745795056436365
93%|██████████████████████████████████████████████████████████████████████▊ | 11173/12000 [42:56<03:02, 4.54it/s]
train loss:0.0005697217505770178
93%|██████████████████████████████████████████████████████████████████████▊ | 11174/12000 [42:56<03:02, 4.52it/s]
train loss:0.00029734918407406803
93%|██████████████████████████████████████████████████████████████████████▊ | 11175/12000 [42:56<03:02, 4.52it/s]
train loss:0.0007154803241080578
93%|██████████████████████████████████████████████████████████████████████▊ | 11176/12000 [42:56<03:02, 4.51it/s]
train loss:0.0003735072357314208
93%|██████████████████████████████████████████████████████████████████████▊ | 11177/12000 [42:57<03:00, 4.55it/s]
train loss:0.0007685461545377428
93%|██████████████████████████████████████████████████████████████████████▊ | 11178/12000 [42:57<03:01, 4.54it/s]
train loss:0.0002806860688928947
93%|██████████████████████████████████████████████████████████████████████▊ | 11179/12000 [42:57<03:02, 4.51it/s]
train loss:0.002938750490491125
93%|██████████████████████████████████████████████████████████████████████▊ | 11180/12000 [42:57<03:01, 4.51it/s]
train loss:0.0021175479180226236
93%|██████████████████████████████████████████████████████████████████████▊ | 11181/12000 [42:58<03:01, 4.50it/s]
train loss:0.00015659469201904742
93%|██████████████████████████████████████████████████████████████████████▊ | 11182/12000 [42:58<03:00, 4.53it/s]
train loss:0.001319645230751676
93%|██████████████████████████████████████████████████████████████████████▊ | 11183/12000 [42:58<03:00, 4.53it/s]
train loss:0.016905998644415828
93%|██████████████████████████████████████████████████████████████████████▊ | 11184/12000 [42:58<03:00, 4.52it/s]
train loss:0.00032170238166140646
93%|██████████████████████████████████████████████████████████████████████▊ | 11185/12000 [42:58<03:00, 4.51it/s]
train loss:0.005219758103049425
93%|██████████████████████████████████████████████████████████████████████▊ | 11186/12000 [42:59<02:58, 4.55it/s]
train loss:0.004805464886181743
93%|██████████████████████████████████████████████████████████████████████▊ | 11187/12000 [42:59<02:59, 4.53it/s]
train loss:0.0036632937772271643
93%|██████████████████████████████████████████████████████████████████████▊ | 11188/12000 [42:59<02:59, 4.52it/s]
train loss:6.494215923182994e-05
93%|██████████████████████████████████████████████████████████████████████▊ | 11189/12000 [42:59<02:59, 4.52it/s]
train loss:0.001318401138740271
93%|██████████████████████████████████████████████████████████████████████▊ | 11190/12000 [43:00<02:59, 4.52it/s]
train loss:0.00022812580336720252
93%|██████████████████████████████████████████████████████████████████████▉ | 11191/12000 [43:00<02:57, 4.57it/s]
train loss:0.0003874306196495334
93%|██████████████████████████████████████████████████████████████████████▉ | 11192/12000 [43:00<02:58, 4.54it/s]
train loss:8.468405327135272e-05
93%|██████████████████████████████████████████████████████████████████████▉ | 11193/12000 [43:00<02:58, 4.51it/s]
train loss:0.000937732732628863
93%|██████████████████████████████████████████████████████████████████████▉ | 11194/12000 [43:00<02:59, 4.49it/s]
train loss:0.0016098651001742478
93%|██████████████████████████████████████████████████████████████████████▉ | 11195/12000 [43:01<02:57, 4.53it/s]
train loss:0.00011828211985689695
93%|██████████████████████████████████████████████████████████████████████▉ | 11196/12000 [43:01<02:56, 4.54it/s]
train loss:0.0024513084953062033
93%|██████████████████████████████████████████████████████████████████████▉ | 11197/12000 [43:01<02:56, 4.54it/s]
train loss:0.0006458318761363935
93%|██████████████████████████████████████████████████████████████████████▉ | 11198/12000 [43:01<02:57, 4.53it/s]
train loss:0.00010134495412102604
93%|██████████████████████████████████████████████████████████████████████▉ | 11199/12000 [43:02<02:57, 4.52it/s]
train loss:0.004763696367090819
93%|██████████████████████████████████████████████████████████████████████▉ | 11200/12000 [43:02<02:55, 4.57it/s]
train loss:0.00024675459235036273
93%|██████████████████████████████████████████████████████████████████████▉ | 11201/12000 [43:02<02:55, 4.56it/s]
train loss:0.006570228983397688
93%|██████████████████████████████████████████████████████████████████████▉ | 11202/12000 [43:02<02:55, 4.55it/s]
train loss:0.0006685187643445935
93%|██████████████████████████████████████████████████████████████████████▉ | 11203/12000 [43:02<02:55, 4.54it/s]
train loss:4.1898705788151905e-05
93%|██████████████████████████████████████████████████████████████████████▉ | 11204/12000 [43:03<02:54, 4.56it/s]
train loss:4.997030920546685e-05
93%|██████████████████████████████████████████████████████████████████████▉ | 11205/12000 [43:03<02:53, 4.57it/s]
train loss:0.0020220841604037597
93%|██████████████████████████████████████████████████████████████████████▉ | 11206/12000 [43:03<02:54, 4.56it/s]
train loss:8.429804782388022e-05
93%|██████████████████████████████████████████████████████████████████████▉ | 11207/12000 [43:03<02:54, 4.55it/s]
train loss:0.0020734609974147147
93%|██████████████████████████████████████████████████████████████████████▉ | 11208/12000 [43:04<02:55, 4.53it/s]
train loss:0.000292620860092894
93%|██████████████████████████████████████████████████████████████████████▉ | 11209/12000 [43:04<02:52, 4.57it/s]
train loss:0.0006621536299686677
93%|██████████████████████████████████████████████████████████████████████▉ | 11210/12000 [43:04<02:53, 4.57it/s]
train loss:0.010446025933560074
93%|███████████████████████████████████████████████████████████████████████ | 11211/12000 [43:04<02:53, 4.55it/s]
train loss:0.0065904420657114
93%|███████████████████████████████████████████████████████████████████████ | 11212/12000 [43:04<02:53, 4.54it/s]
train loss:0.005871465106815415
93%|███████████████████████████████████████████████████████████████████████ | 11213/12000 [43:05<02:52, 4.56it/s]
train loss:0.0006149733491186551
93%|███████████████████████████████████████████████████████████████████████ | 11214/12000 [43:05<02:51, 4.57it/s]
train loss:0.00035560366963814644
93%|███████████████████████████████████████████████████████████████████████ | 11215/12000 [43:05<02:52, 4.56it/s]
train loss:0.0003454953685279272
93%|███████████████████████████████████████████████████████████████████████ | 11216/12000 [43:05<02:52, 4.55it/s]
train loss:0.0011439411749616466
93%|███████████████████████████████████████████████████████████████████████ | 11218/12000 [43:06<02:50, 4.59it/s]
train loss:0.0003748345288240711 train loss:0.0009217589367752978
93%|███████████████████████████████████████████████████████████████████████ | 11219/12000 [43:06<02:59, 4.35it/s]
train loss:0.0012636906029928209
94%|███████████████████████████████████████████████████████████████████████ | 11220/12000 [43:06<02:57, 4.40it/s]
train loss:0.0003154362829419869
94%|███████████████████████████████████████████████████████████████████████ | 11221/12000 [43:06<02:55, 4.43it/s]
train loss:4.6877791940577954e-05
94%|███████████████████████████████████████████████████████████████████████ | 11222/12000 [43:07<02:53, 4.48it/s]
train loss:0.0001484958922531095
94%|███████████████████████████████████████████████████████████████████████ | 11223/12000 [43:07<02:52, 4.51it/s]
train loss:0.001771420267199226
94%|███████████████████████████████████████████████████████████████████████ | 11224/12000 [43:07<02:52, 4.51it/s]
train loss:0.0013533600391016534
94%|███████████████████████████████████████████████████████████████████████ | 11225/12000 [43:07<02:51, 4.52it/s]
train loss:0.0023276141078461
94%|███████████████████████████████████████████████████████████████████████ | 11226/12000 [43:07<02:52, 4.50it/s]
train loss:0.0002331830200340849
94%|███████████████████████████████████████████████████████████████████████ | 11227/12000 [43:08<02:49, 4.55it/s]
train loss:0.0008022691743405071
94%|███████████████████████████████████████████████████████████████████████ | 11228/12000 [43:08<02:49, 4.55it/s]
train loss:0.007904219882121838
94%|███████████████████████████████████████████████████████████████████████ | 11229/12000 [43:08<02:49, 4.54it/s]
train loss:0.0005304549101116797
94%|███████████████████████████████████████████████████████████████████████ | 11230/12000 [43:08<02:50, 4.53it/s]
train loss:0.0015042052969600395
94%|███████████████████████████████████████████████████████████████████████▏ | 11231/12000 [43:09<02:50, 4.51it/s]
train loss:0.0022150709681329084
94%|███████████████████████████████████████████████████████████████████████▏ | 11232/12000 [43:09<02:49, 4.53it/s]
train loss:0.0003464757929556232
94%|███████████████████████████████████████████████████████████████████████▏ | 11233/12000 [43:09<02:49, 4.53it/s]
train loss:7.663293968788502e-05
94%|███████████████████████████████████████████████████████████████████████▏ | 11234/12000 [43:09<02:49, 4.53it/s]
train loss:0.0014155404495618052
94%|███████████████████████████████████████████████████████████████████████▏ | 11236/12000 [43:10<02:47, 4.56it/s]
train loss:0.0012986922961546125 train loss:0.001357329831075469
94%|███████████████████████████████████████████████████████████████████████▏ | 11237/12000 [43:10<02:47, 4.56it/s]
train loss:0.0009820088195189643
94%|███████████████████████████████████████████████████████████████████████▏ | 11238/12000 [43:10<02:47, 4.55it/s]
train loss:0.0019908787623139734
94%|███████████████████████████████████████████████████████████████████████▏ | 11239/12000 [43:10<02:48, 4.53it/s]
train loss:0.0006436506728640653
94%|███████████████████████████████████████████████████████████████████████▏ | 11240/12000 [43:11<02:47, 4.54it/s]
train loss:0.0033573241285776313
94%|███████████████████████████████████████████████████████████████████████▏ | 11241/12000 [43:11<02:46, 4.55it/s]
train loss:0.001897826053259146
94%|███████████████████████████████████████████████████████████████████████▏ | 11242/12000 [43:11<02:47, 4.54it/s]
train loss:0.0017677846420445114
94%|███████████████████████████████████████████████████████████████████████▏ | 11243/12000 [43:11<02:47, 4.52it/s]
train loss:0.00021866656954114987
94%|███████████████████████████████████████████████████████████████████████▏ | 11244/12000 [43:11<02:47, 4.50it/s]
train loss:0.0009916720223258513
94%|███████████████████████████████████████████████████████████████████████▏ | 11245/12000 [43:12<02:46, 4.53it/s]
train loss:7.552273817245234e-05
94%|███████████████████████████████████████████████████████████████████████▏ | 11246/12000 [43:12<02:47, 4.50it/s]
train loss:0.00020848955771730665
94%|███████████████████████████████████████████████████████████████████████▏ | 11247/12000 [43:12<02:47, 4.50it/s]
train loss:0.0023604779098650576
94%|███████████████████████████████████████████████████████████████████████▏ | 11248/12000 [43:12<02:48, 4.46it/s]
train loss:0.00011046176674220366
94%|███████████████████████████████████████████████████████████████████████▏ | 11249/12000 [43:13<02:49, 4.43it/s]
train loss:0.009514735568180102
94%|███████████████████████████████████████████████████████████████████████▎ | 11250/12000 [43:13<02:47, 4.47it/s]
train loss:0.009066406860186926
94%|███████████████████████████████████████████████████████████████████████▎ | 11251/12000 [43:13<02:47, 4.48it/s]
train loss:0.0012118500743602445
94%|███████████████████████████████████████████████████████████████████████▎ | 11252/12000 [43:13<02:46, 4.48it/s]
train loss:0.0020229666815836283
94%|███████████████████████████████████████████████████████████████████████▎ | 11253/12000 [43:13<02:46, 4.48it/s]
train loss:0.00015983143426217706
94%|███████████████████████████████████████████████████████████████████████▎ | 11254/12000 [43:14<02:47, 4.46it/s]
train loss:0.0014893295791686165
94%|███████████████████████████████████████████████████████████████████████▎ | 11255/12000 [43:14<02:46, 4.48it/s]
train loss:0.00018470529511224417
94%|███████████████████████████████████████████████████████████████████████▎ | 11256/12000 [43:14<02:45, 4.49it/s]
train loss:0.0005465280501025811
94%|███████████████████████████████████████████████████████████████████████▎ | 11257/12000 [43:14<02:45, 4.50it/s]
train loss:0.0038014372739144176
94%|███████████████████████████████████████████████████████████████████████▎ | 11258/12000 [43:15<02:45, 4.47it/s]
train loss:0.004257748750117314
94%|███████████████████████████████████████████████████████████████████████▎ | 11259/12000 [43:15<02:45, 4.49it/s]
train loss:0.0010166934840732846
94%|███████████████████████████████████████████████████████████████████████▎ | 11260/12000 [43:15<02:44, 4.49it/s]
train loss:0.0067485870040502
94%|███████████████████████████████████████████████████████████████████████▎ | 11261/12000 [43:15<02:44, 4.48it/s]
train loss:0.0009470775314220392
94%|███████████████████████████████████████████████████████████████████████▎ | 11262/12000 [43:15<02:44, 4.47it/s]
train loss:0.006667696592479193
94%|███████████████████████████████████████████████████████████████████████▎ | 11263/12000 [43:16<02:44, 4.48it/s]
train loss:0.0009531191893820467
94%|███████████████████████████████████████████████████████████████████████▎ | 11264/12000 [43:16<02:44, 4.48it/s]
train loss:0.0014014648865059284
94%|███████████████████████████████████████████████████████████████████████▎ | 11265/12000 [43:16<02:54, 4.21it/s]
train loss:0.0022724096904211018
94%|███████████████████████████████████████████████████████████████████████▎ | 11266/12000 [43:16<03:01, 4.05it/s]
train loss:0.00032689427252591453
94%|███████████████████████████████████████████████████████████████████████▎ | 11267/12000 [43:17<02:54, 4.20it/s]
train loss:2.7875654749113535e-05
94%|███████████████████████████████████████████████████████████████████████▎ | 11268/12000 [43:17<02:51, 4.28it/s]
train loss:0.00017270686521128593
94%|███████████████████████████████████████████████████████████████████████▎ | 11269/12000 [43:17<02:48, 4.34it/s]
train loss:0.002343035498154883
94%|███████████████████████████████████████████████████████████████████████▍ | 11270/12000 [43:17<02:46, 4.38it/s]
train loss:0.0022574746303298428
94%|███████████████████████████████████████████████████████████████████████▍ | 11271/12000 [43:18<02:45, 4.41it/s]
train loss:0.0005986428507539043
94%|███████████████████████████████████████████████████████████████████████▍ | 11272/12000 [43:18<02:44, 4.44it/s]
train loss:0.0012762400400386864
94%|███████████████████████████████████████████████████████████████████████▍ | 11273/12000 [43:18<02:43, 4.44it/s]
train loss:0.00035479063479163317
94%|███████████████████████████████████████████████████████████████████████▍ | 11274/12000 [43:18<02:43, 4.44it/s]
train loss:0.00024661282383810283
94%|███████████████████████████████████████████████████████████████████████▍ | 11275/12000 [43:18<02:43, 4.44it/s]
train loss:0.0009535960784202857
94%|███████████████████████████████████████████████████████████████████████▍ | 11276/12000 [43:19<02:42, 4.45it/s]
train loss:0.0013381166039524545
94%|███████████████████████████████████████████████████████████████████████▍ | 11277/12000 [43:19<02:42, 4.44it/s]
train loss:0.003860664922882001
94%|███████████████████████████████████████████████████████████████████████▍ | 11278/12000 [43:19<02:42, 4.44it/s]
train loss:0.0024900392547271086
94%|███████████████████████████████████████████████████████████████████████▍ | 11279/12000 [43:19<02:42, 4.43it/s]
train loss:0.0033814627129000957
94%|███████████████████████████████████████████████████████████████████████▍ | 11280/12000 [43:20<02:41, 4.47it/s]
train loss:0.0004630866488413609
94%|███████████████████████████████████████████████████████████████████████▍ | 11281/12000 [43:20<02:40, 4.47it/s]
train loss:0.0006532041197384792
94%|███████████████████████████████████████████████████████████████████████▍ | 11282/12000 [43:20<02:41, 4.46it/s]
train loss:0.0018441845369622468
94%|███████████████████████████████████████████████████████████████████████▍ | 11283/12000 [43:20<02:41, 4.45it/s]
train loss:0.00041515659848091193
94%|███████████████████████████████████████████████████████████████████████▍ | 11284/12000 [43:21<02:41, 4.43it/s]
train loss:0.0006337843209496005
94%|███████████████████████████████████████████████████████████████████████▍ | 11285/12000 [43:21<02:39, 4.48it/s]
train loss:0.00045832262515354535
94%|███████████████████████████████████████████████████████████████████████▍ | 11286/12000 [43:21<02:39, 4.47it/s]
train loss:0.0011010396433919084
94%|███████████████████████████████████████████████████████████████████████▍ | 11287/12000 [43:21<02:39, 4.46it/s]
train loss:5.164433581510808e-05
94%|███████████████████████████████████████████████████████████████████████▍ | 11288/12000 [43:21<02:39, 4.46it/s]
train loss:0.001288262999918442
94%|███████████████████████████████████████████████████████████████████████▍ | 11289/12000 [43:22<02:38, 4.48it/s]
train loss:0.004280149110523949
94%|███████████████████████████████████████████████████████████████████████▌ | 11290/12000 [43:22<02:38, 4.48it/s]
train loss:0.0001226571251882979
94%|███████████████████████████████████████████████████████████████████████▌ | 11291/12000 [43:22<02:38, 4.47it/s]
train loss:0.004014817278564636
94%|███████████████████████████████████████████████████████████████████████▌ | 11292/12000 [43:22<02:38, 4.45it/s]
train loss:0.0011357879528827186
94%|███████████████████████████████████████████████████████████████████████▌ | 11293/12000 [43:23<02:39, 4.45it/s]
train loss:0.00017031220384971336
94%|███████████████████████████████████████████████████████████████████████▌ | 11294/12000 [43:23<02:37, 4.47it/s]
train loss:0.0004932417555651638
94%|███████████████████████████████████████████████████████████████████████▌ | 11295/12000 [43:23<02:37, 4.47it/s]
train loss:0.006358073301932471
94%|███████████████████████████████████████████████████████████████████████▌ | 11296/12000 [43:23<02:37, 4.46it/s]
train loss:0.00019706443594420936
94%|███████████████████████████████████████████████████████████████████████▌ | 11297/12000 [43:23<02:38, 4.44it/s]
train loss:0.0005793696626606965
94%|███████████████████████████████████████████████████████████████████████▌ | 11298/12000 [43:24<02:36, 4.47it/s]
train loss:0.00042021174154694183
94%|███████████████████████████████████████████████████████████████████████▌ | 11299/12000 [43:24<02:37, 4.45it/s]
train loss:0.00267901051078461
94%|███████████████████████████████████████████████████████████████████████▌ | 11300/12000 [43:24<02:37, 4.45it/s]
train loss:0.00029424928886899194
94%|███████████████████████████████████████████████████████████████████████▌ | 11301/12000 [43:24<02:37, 4.45it/s]
train loss:0.00011404207433764684
94%|███████████████████████████████████████████████████████████████████████▌ | 11302/12000 [43:25<02:37, 4.43it/s]
train loss:0.002058488923683979
94%|███████████████████████████████████████████████████████████████████████▌ | 11303/12000 [43:25<02:35, 4.47it/s]
train loss:0.003631831505814285
94%|███████████████████████████████████████████████████████████████████████▌ | 11304/12000 [43:25<02:36, 4.46it/s]
train loss:0.0009926876861814963
94%|███████████████████████████████████████████████████████████████████████▌ | 11305/12000 [43:25<02:36, 4.44it/s]
train loss:0.002044709347050576
94%|███████████████████████████████████████████████████████████████████████▌ | 11306/12000 [43:25<02:36, 4.43it/s]
train loss:0.0003640905826368614
94%|███████████████████████████████████████████████████████████████████████▌ | 11307/12000 [43:26<02:34, 4.48it/s]
train loss:0.00015392772337380995
94%|███████████████████████████████████████████████████████████████████████▌ | 11308/12000 [43:26<02:35, 4.46it/s]
train loss:0.00016849129528851998
94%|███████████████████████████████████████████████████████████████████████▌ | 11309/12000 [43:26<02:35, 4.46it/s]
train loss:0.00015349205624103077
94%|███████████████████████████████████████████████████████████████████████▋ | 11310/12000 [43:26<02:36, 4.41it/s]
train loss:0.002271467229057319
94%|███████████████████████████████████████████████████████████████████████▋ | 11311/12000 [43:27<02:40, 4.30it/s]
train loss:0.001724593030559038
94%|███████████████████████████████████████████████████████████████████████▋ | 11312/12000 [43:27<02:36, 4.39it/s]
train loss:0.0013948132509791422
94%|███████████████████████████████████████████████████████████████████████▋ | 11313/12000 [43:27<02:35, 4.41it/s]
train loss:0.0006266502511662352
94%|███████████████████████████████████████████████████████████████████████▋ | 11314/12000 [43:27<02:34, 4.43it/s]
train loss:0.001147999074023786
94%|███████████████████████████████████████████████████████████████████████▋ | 11315/12000 [43:27<02:34, 4.45it/s]
train loss:0.00023532825615197857
94%|███████████████████████████████████████████████████████████████████████▋ | 11316/12000 [43:28<02:32, 4.50it/s]
train loss:0.0001538394786400887
94%|███████████████████████████████████████████████████████████████████████▋ | 11317/12000 [43:28<02:31, 4.50it/s]
train loss:0.00017703540526233495
94%|███████████████████████████████████████████████████████████████████████▋ | 11318/12000 [43:28<02:31, 4.50it/s]
train loss:0.0007673911898351489
94%|███████████████████████████████████████████████████████████████████████▋ | 11319/12000 [43:28<02:31, 4.49it/s]
train loss:0.00015148222929284327
94%|███████████████████████████████████████████████████████████████████████▋ | 11320/12000 [43:29<02:30, 4.51it/s]
train loss:0.0009704653034185067
94%|███████████████████████████████████████████████████████████████████████▋ | 11321/12000 [43:29<02:31, 4.49it/s]
train loss:0.0003958863823760818
94%|███████████████████████████████████████████████████████████████████████▋ | 11322/12000 [43:29<02:30, 4.49it/s]
train loss:0.0005782111422163988
94%|███████████████████████████████████████████████████████████████████████▋ | 11323/12000 [43:29<02:30, 4.49it/s]
train loss:0.0005452954926485155
94%|███████████████████████████████████████████████████████████████████████▋ | 11324/12000 [43:29<02:30, 4.50it/s]
train loss:0.0007339583186431168
94%|███████████████████████████████████████████████████████████████████████▋ | 11325/12000 [43:30<02:28, 4.56it/s]
train loss:0.00021860658269836044
94%|███████████████████████████████████████████████████████████████████████▋ | 11326/12000 [43:30<02:28, 4.54it/s]
train loss:0.011593234312417306
94%|███████████████████████████████████████████████████████████████████████▋ | 11327/12000 [43:30<02:28, 4.54it/s]
train loss:0.00018566934355675546
94%|███████████████████████████████████████████████████████████████████████▋ | 11328/12000 [43:30<02:28, 4.52it/s]
train loss:0.0003277961519054319
94%|███████████████████████████████████████████████████████████████████████▊ | 11329/12000 [43:31<02:28, 4.52it/s]
train loss:0.004537506383947122
94%|███████████████████████████████████████████████████████████████████████▊ | 11330/12000 [43:31<02:27, 4.55it/s]
train loss:0.014404882950451437
94%|███████████████████████████████████████████████████████████████████████▊ | 11331/12000 [43:31<02:27, 4.54it/s]
train loss:0.0004931651295743792
94%|███████████████████████████████████████████████████████████████████████▊ | 11332/12000 [43:31<02:28, 4.50it/s]
train loss:0.0001355357771272741
94%|███████████████████████████████████████████████████████████████████████▊ | 11333/12000 [43:31<02:28, 4.50it/s]
train loss:0.007516174341399008
94%|███████████████████████████████████████████████████████████████████████▊ | 11334/12000 [43:32<02:26, 4.54it/s]
train loss:0.0010324407788622283
94%|███████████████████████████████████████████████████████████████████████▊ | 11335/12000 [43:32<02:26, 4.53it/s]
train loss:0.0005065152877851905
94%|███████████████████████████████████████████████████████████████████████▊ | 11336/12000 [43:32<02:27, 4.52it/s]
train loss:0.00841354535375938
94%|███████████████████████████████████████████████████████████████████████▊ | 11337/12000 [43:32<02:27, 4.51it/s]
train loss:2.2176063446407086e-05
94%|███████████████████████████████████████████████████████████████████████▊ | 11338/12000 [43:33<02:27, 4.49it/s]
train loss:0.0012357101717073787
94%|███████████████████████████████████████████████████████████████████████▊ | 11339/12000 [43:33<02:26, 4.51it/s]
train loss:0.0004595472095855026
94%|███████████████████████████████████████████████████████████████████████▊ | 11340/12000 [43:33<02:26, 4.52it/s]
train loss:0.00010762278530648502
95%|███████████████████████████████████████████████████████████████████████▊ | 11341/12000 [43:33<02:25, 4.51it/s]
train loss:0.0019267541238906644
95%|███████████████████████████████████████████████████████████████████████▊ | 11342/12000 [43:33<02:26, 4.51it/s]
train loss:0.0028075630550949875
95%|███████████████████████████████████████████████████████████████████████▊ | 11343/12000 [43:34<02:24, 4.54it/s]
train loss:0.0009490889406631428
95%|███████████████████████████████████████████████████████████████████████▊ | 11344/12000 [43:34<02:26, 4.49it/s]
train loss:0.000507775500759978
95%|███████████████████████████████████████████████████████████████████████▊ | 11345/12000 [43:34<02:26, 4.48it/s]
train loss:0.0009174853381552044
95%|███████████████████████████████████████████████████████████████████████▊ | 11346/12000 [43:34<02:25, 4.49it/s]
train loss:0.00011461166003982354
95%|███████████████████████████████████████████████████████████████████████▊ | 11347/12000 [43:35<02:25, 4.50it/s]
train loss:0.00015591440152079366
95%|███████████████████████████████████████████████████████████████████████▊ | 11348/12000 [43:35<02:23, 4.54it/s]
train loss:0.0011266900323519795
95%|███████████████████████████████████████████████████████████████████████▉ | 11349/12000 [43:35<02:23, 4.54it/s]
train loss:0.00023376128294790195
95%|███████████████████████████████████████████████████████████████████████▉ | 11350/12000 [43:35<02:23, 4.53it/s]
train loss:0.001642051534764232
95%|███████████████████████████████████████████████████████████████████████▉ | 11351/12000 [43:35<02:23, 4.51it/s]
train loss:0.0005255403135909421
95%|███████████████████████████████████████████████████████████████████████▉ | 11352/12000 [43:36<02:21, 4.56it/s]
train loss:0.005084490791887328
95%|███████████████████████████████████████████████████████████████████████▉ | 11353/12000 [43:36<02:22, 4.55it/s]
train loss:0.005261917994258951
95%|███████████████████████████████████████████████████████████████████████▉ | 11354/12000 [43:36<02:22, 4.54it/s]
train loss:0.0008652975448912738
95%|███████████████████████████████████████████████████████████████████████▉ | 11355/12000 [43:36<02:22, 4.54it/s]
train loss:0.0013277375655842813
95%|███████████████████████████████████████████████████████████████████████▉ | 11356/12000 [43:37<02:22, 4.52it/s]
train loss:0.0024124032579011124
95%|███████████████████████████████████████████████████████████████████████▉ | 11357/12000 [43:37<02:20, 4.57it/s]
train loss:0.001774965055284323
95%|███████████████████████████████████████████████████████████████████████▉ | 11358/12000 [43:37<02:20, 4.56it/s]
train loss:0.001136545746016681
95%|███████████████████████████████████████████████████████████████████████▉ | 11359/12000 [43:37<02:20, 4.55it/s]
train loss:0.00022909295220684893
95%|███████████████████████████████████████████████████████████████████████▉ | 11360/12000 [43:37<02:21, 4.54it/s]
train loss:0.0003273777321791999
95%|███████████████████████████████████████████████████████████████████████▉ | 11361/12000 [43:38<02:19, 4.57it/s]
train loss:0.001164226174234113
95%|███████████████████████████████████████████████████████████████████████▉ | 11362/12000 [43:38<02:19, 4.57it/s]
train loss:0.00041909489786339936
95%|███████████████████████████████████████████████████████████████████████▉ | 11363/12000 [43:38<02:20, 4.55it/s]
train loss:0.0012352632255566225
95%|███████████████████████████████████████████████████████████████████████▉ | 11364/12000 [43:38<02:20, 4.54it/s]
train loss:0.0009805959765970197
95%|███████████████████████████████████████████████████████████████████████▉ | 11366/12000 [43:39<02:18, 4.57it/s]
train loss:0.0004354222284650696 train loss:0.005223527061591721
95%|███████████████████████████████████████████████████████████████████████▉ | 11367/12000 [43:39<02:19, 4.53it/s]
train loss:0.006565140814229642
95%|███████████████████████████████████████████████████████████████████████▉ | 11368/12000 [43:39<02:19, 4.52it/s]
train loss:0.002337725234684233
95%|████████████████████████████████████████████████████████████████████████ | 11369/12000 [43:39<02:19, 4.52it/s]
train loss:0.002006165537681293
95%|████████████████████████████████████████████████████████████████████████ | 11370/12000 [43:40<02:18, 4.54it/s]
train loss:0.002928187373753494
95%|████████████████████████████████████████████████████████████████████████ | 11371/12000 [43:40<02:18, 4.54it/s]
train loss:0.002762113312396096
95%|████████████████████████████████████████████████████████████████████████ | 11372/12000 [43:40<02:18, 4.53it/s]
train loss:0.0016410122174806189
95%|████████████████████████████████████████████████████████████████████████ | 11373/12000 [43:40<02:18, 4.52it/s]
train loss:0.0014962347493473968
95%|████████████████████████████████████████████████████████████████████████ | 11374/12000 [43:41<02:18, 4.51it/s]
train loss:0.004228331524984943
95%|████████████████████████████████████████████████████████████████████████ | 11375/12000 [43:41<02:17, 4.55it/s]
train loss:0.0024421604832564896
95%|████████████████████████████████████████████████████████████████████████ | 11376/12000 [43:41<02:17, 4.54it/s]
train loss:0.0007357822074576128
95%|████████████████████████████████████████████████████████████████████████ | 11377/12000 [43:41<02:17, 4.53it/s]
train loss:0.00022532273102089868
95%|████████████████████████████████████████████████████████████████████████ | 11378/12000 [43:41<02:17, 4.52it/s]
train loss:0.0005891738397219284
95%|████████████████████████████████████████████████████████████████████████ | 11379/12000 [43:42<02:16, 4.54it/s]
train loss:0.0029718570700250175
95%|████████████████████████████████████████████████████████████████████████ | 11380/12000 [43:42<02:16, 4.54it/s]
train loss:0.00024889037081036357
95%|████████████████████████████████████████████████████████████████████████ | 11381/12000 [43:42<02:16, 4.53it/s]
train loss:0.0021805624843852945
95%|████████████████████████████████████████████████████████████████████████ | 11382/12000 [43:42<02:16, 4.53it/s]
train loss:0.0018416429243371531
95%|████████████████████████████████████████████████████████████████████████ | 11383/12000 [43:42<02:16, 4.52it/s]
train loss:0.00056934411836626
95%|████████████████████████████████████████████████████████████████████████ | 11384/12000 [43:43<02:14, 4.57it/s]
train loss:0.0035558125780599447
95%|████████████████████████████████████████████████████████████████████████ | 11385/12000 [43:43<02:15, 4.55it/s]
train loss:0.0027974320742663946
95%|████████████████████████████████████████████████████████████████████████ | 11386/12000 [43:43<02:15, 4.54it/s]
train loss:0.0001541202024197944
95%|████████████████████████████████████████████████████████████████████████ | 11387/12000 [43:43<02:15, 4.53it/s]
train loss:0.007933949971796434
95%|████████████████████████████████████████████████████████████████████████ | 11388/12000 [43:44<02:15, 4.53it/s]
train loss:0.002478238610987828
95%|████████████████████████████████████████████████████████████████████████▏ | 11389/12000 [43:44<02:14, 4.54it/s]
train loss:0.0047563241076201725
95%|████████████████████████████████████████████████████████████████████████▏ | 11390/12000 [43:44<02:14, 4.53it/s]
train loss:0.008663216651337456
95%|████████████████████████████████████████████████████████████████████████▏ | 11391/12000 [43:44<02:14, 4.53it/s]
train loss:0.0012388031323529143
95%|████████████████████████████████████████████████████████████████████████▏ | 11392/12000 [43:44<02:14, 4.51it/s]
train loss:0.0003557797967161738
95%|████████████████████████████████████████████████████████████████████████▏ | 11393/12000 [43:45<02:13, 4.56it/s]
train loss:9.50743867099685e-05
95%|████████████████████████████████████████████████████████████████████████▏ | 11394/12000 [43:45<02:13, 4.54it/s]
train loss:0.0010083885647056388
95%|████████████████████████████████████████████████████████████████████████▏ | 11395/12000 [43:45<02:13, 4.53it/s]
train loss:0.00016669393072888276
95%|████████████████████████████████████████████████████████████████████████▏ | 11396/12000 [43:45<02:13, 4.52it/s]
train loss:4.7211444402185914e-05
95%|████████████████████████████████████████████████████████████████████████▏ | 11397/12000 [43:46<02:13, 4.52it/s]
train loss:0.0002033048488084604
95%|████████████████████████████████████████████████████████████████████████▏ | 11398/12000 [43:46<02:12, 4.54it/s]
train loss:0.001444665691449314
95%|████████████████████████████████████████████████████████████████████████▏ | 11399/12000 [43:46<02:12, 4.53it/s]
train loss:0.0006053734251936538
95%|████████████████████████████████████████████████████████████████████████▏ | 11400/12000 [43:46<02:12, 4.52it/s]
train loss:0.00037184898472297626 train loss:0.0006303481912777227
95%|████████████████████████████████████████████████████████████████████████▏ | 11401/12000 [43:48<06:52, 1.45it/s]
=== epoch:20, train acc:0.998, test acc:0.988 ===
95%|████████████████████████████████████████████████████████████████████████▏ | 11402/12000 [43:48<05:28, 1.82it/s]
train loss:0.00039246144394296326
95%|████████████████████████████████████████████████████████████████████████▏ | 11403/12000 [43:48<04:29, 2.21it/s]
train loss:0.0001551244937780096
95%|████████████████████████████████████████████████████████████████████████▏ | 11404/12000 [43:49<03:48, 2.61it/s]
train loss:0.0003625914297280326
95%|████████████████████████████████████████████████████████████████████████▏ | 11405/12000 [43:49<03:19, 2.99it/s]
train loss:0.005044619773248972
95%|████████████████████████████████████████████████████████████████████████▏ | 11406/12000 [43:49<02:59, 3.31it/s]
train loss:0.0006787679387561925
95%|████████████████████████████████████████████████████████████████████████▏ | 11407/12000 [43:49<02:45, 3.58it/s]
train loss:0.0008790873111900361
95%|████████████████████████████████████████████████████████████████████████▎ | 11408/12000 [43:50<02:35, 3.81it/s]
train loss:0.0001696105649554257
95%|████████████████████████████████████████████████████████████████████████▎ | 11409/12000 [43:50<02:27, 4.02it/s]
train loss:0.00019427220139800905
95%|████████████████████████████████████████████████████████████████████████▎ | 11410/12000 [43:50<02:22, 4.14it/s]
train loss:8.552102947297564e-05
95%|████████████████████████████████████████████████████████████████████████▎ | 11411/12000 [43:50<02:19, 4.22it/s]
train loss:0.0015168906814081937
95%|████████████████████████████████████████████████████████████████████████▎ | 11412/12000 [43:50<02:17, 4.27it/s]
train loss:0.005575272571345895
95%|████████████████████████████████████████████████████████████████████████▎ | 11413/12000 [43:51<02:14, 4.37it/s]
train loss:1.8645982700037245e-05
95%|████████████████████████████████████████████████████████████████████████▎ | 11414/12000 [43:51<02:13, 4.40it/s]
train loss:0.0031607761267751933
95%|████████████████████████████████████████████████████████████████████████▎ | 11415/12000 [43:51<02:12, 4.43it/s]
train loss:0.0015418923734148082
95%|████████████████████████████████████████████████████████████████████████▎ | 11416/12000 [43:51<02:10, 4.46it/s]
train loss:9.251345783378275e-05
95%|████████████████████████████████████████████████████████████████████████▎ | 11417/12000 [43:52<02:10, 4.47it/s]
train loss:0.0005040140863948532
95%|████████████████████████████████████████████████████████████████████████▎ | 11418/12000 [43:52<02:10, 4.47it/s]
train loss:0.0005680607026345271
95%|████████████████████████████████████████████████████████████████████████▎ | 11419/12000 [43:52<02:10, 4.46it/s]
train loss:0.001017827315753428
95%|████████████████████████████████████████████████████████████████████████▎ | 11420/12000 [43:52<02:09, 4.48it/s]
train loss:0.00026206048868701484
95%|████████████████████████████████████████████████████████████████████████▎ | 11421/12000 [43:52<02:09, 4.48it/s]
train loss:0.00400722209498361
95%|████████████████████████████████████████████████████████████████████████▎ | 11422/12000 [43:53<02:07, 4.52it/s]
train loss:0.015482604001985374
95%|████████████████████████████████████████████████████████████████████████▎ | 11423/12000 [43:53<02:08, 4.50it/s]
train loss:0.0018797720077748886
95%|████████████████████████████████████████████████████████████████████████▎ | 11424/12000 [43:53<02:08, 4.50it/s]
train loss:8.953854987631509e-05
95%|████████████████████████████████████████████████████████████████████████▎ | 11425/12000 [43:53<02:08, 4.49it/s]
train loss:7.129891854565587e-05
95%|████████████████████████████████████████████████████████████████████████▎ | 11426/12000 [43:54<02:07, 4.49it/s]
train loss:0.004206788039281506
95%|████████████████████████████████████████████████████████████████████████▎ | 11427/12000 [43:54<02:07, 4.50it/s]
train loss:0.0007330186791779892
95%|████████████████████████████████████████████████████████████████████████▍ | 11428/12000 [43:54<02:07, 4.49it/s]
train loss:0.0017321458793411952
95%|████████████████████████████████████████████████████████████████████████▍ | 11429/12000 [43:54<02:07, 4.48it/s]
train loss:0.00020475810795519045
95%|████████████████████████████████████████████████████████████████████████▍ | 11430/12000 [43:54<02:07, 4.47it/s]
train loss:0.0008784360147972187
95%|████████████████████████████████████████████████████████████████████████▍ | 11431/12000 [43:55<02:05, 4.53it/s]
train loss:0.0009194955851699028
95%|████████████████████████████████████████████████████████████████████████▍ | 11432/12000 [43:55<02:05, 4.53it/s]
train loss:0.0007164375528981129
95%|████████████████████████████████████████████████████████████████████████▍ | 11433/12000 [43:55<02:05, 4.52it/s]
train loss:0.0027792431463463437
95%|████████████████████████████████████████████████████████████████████████▍ | 11434/12000 [43:55<02:05, 4.52it/s]
train loss:0.0002238914653984559
95%|████████████████████████████████████████████████████████████████████████▍ | 11435/12000 [43:56<02:05, 4.51it/s]
train loss:0.000340966180446629
95%|████████████████████████████████████████████████████████████████████████▍ | 11436/12000 [43:56<02:04, 4.52it/s]
train loss:9.080769644470316e-05
95%|████████████████████████████████████████████████████████████████████████▍ | 11437/12000 [43:56<02:04, 4.51it/s]
train loss:0.004744319424837098
95%|████████████████████████████████████████████████████████████████████████▍ | 11438/12000 [43:56<02:04, 4.50it/s]
train loss:0.0010940204707253784
95%|████████████████████████████████████████████████████████████████████████▍ | 11439/12000 [43:56<02:05, 4.48it/s]
train loss:0.0002942514989351046
95%|████████████████████████████████████████████████████████████████████████▍ | 11440/12000 [43:57<02:05, 4.45it/s]
train loss:9.706363598395435e-05
95%|████████████████████████████████████████████████████████████████████████▍ | 11441/12000 [43:57<02:04, 4.47it/s]
train loss:0.0005611951499926367
95%|████████████████████████████████████████████████████████████████████████▍ | 11442/12000 [43:57<02:04, 4.49it/s]
train loss:0.0004314894351747154
95%|████████████████████████████████████████████████████████████████████████▍ | 11443/12000 [43:57<02:03, 4.49it/s]
train loss:0.00013053686129069198
95%|████████████████████████████████████████████████████████████████████████▍ | 11444/12000 [43:58<02:03, 4.50it/s]
train loss:0.0005063019971136365
95%|████████████████████████████████████████████████████████████████████████▍ | 11445/12000 [43:58<02:02, 4.53it/s]
train loss:0.0032945917306031252
95%|████████████████████████████████████████████████████████████████████████▍ | 11446/12000 [43:58<02:02, 4.53it/s]
train loss:0.0025101393123617877
95%|████████████████████████████████████████████████████████████████████████▍ | 11447/12000 [43:58<02:02, 4.53it/s]
train loss:0.0006656378258545515
95%|████████████████████████████████████████████████████████████████████████▌ | 11448/12000 [43:58<02:02, 4.51it/s]
train loss:0.00038576017054203944
95%|████████████████████████████████████████████████████████████████████████▌ | 11449/12000 [43:59<02:00, 4.57it/s]
train loss:0.002797418404920975
95%|████████████████████████████████████████████████████████████████████████▌ | 11450/12000 [43:59<02:00, 4.55it/s]
train loss:0.0004837839501791375
95%|████████████████████████████████████████████████████████████████████████▌ | 11451/12000 [43:59<02:00, 4.54it/s]
train loss:0.00045646782176849934
95%|████████████████████████████████████████████████████████████████████████▌ | 11452/12000 [43:59<02:00, 4.54it/s]
train loss:0.00046103953424463334
95%|████████████████████████████████████████████████████████████████████████▌ | 11453/12000 [44:00<02:00, 4.53it/s]
train loss:0.0018370484312620137
95%|████████████████████████████████████████████████████████████████████████▌ | 11454/12000 [44:00<01:59, 4.56it/s]
train loss:0.00022314821948802584
95%|████████████████████████████████████████████████████████████████████████▌ | 11455/12000 [44:00<01:59, 4.54it/s]
train loss:0.014196590095100181
95%|████████████████████████████████████████████████████████████████████████▌ | 11456/12000 [44:00<01:59, 4.54it/s]
train loss:0.002312992451062042
95%|████████████████████████████████████████████████████████████████████████▌ | 11457/12000 [44:00<02:00, 4.52it/s]
train loss:0.00023851186639960528
95%|████████████████████████████████████████████████████████████████████████▌ | 11458/12000 [44:01<01:58, 4.57it/s]
train loss:0.0013381533080380223
95%|████████████████████████████████████████████████████████████████████████▌ | 11459/12000 [44:01<01:58, 4.56it/s]
train loss:0.00025012917381475667
96%|████████████████████████████████████████████████████████████████████████▌ | 11460/12000 [44:01<01:58, 4.55it/s]
train loss:0.0006256376672835416
96%|████████████████████████████████████████████████████████████████████████▌ | 11461/12000 [44:01<01:58, 4.54it/s]
train loss:0.0012237751226043992
96%|████████████████████████████████████████████████████████████████████████▌ | 11462/12000 [44:02<01:58, 4.53it/s]
train loss:6.177669747499761e-05
96%|████████████████████████████████████████████████████████████████████████▌ | 11463/12000 [44:02<01:57, 4.58it/s]
train loss:0.0018258028956167974
96%|████████████████████████████████████████████████████████████████████████▌ | 11464/12000 [44:02<01:58, 4.54it/s]
train loss:0.0013674079371916558
96%|████████████████████████████████████████████████████████████████████████▌ | 11465/12000 [44:02<01:58, 4.53it/s]
train loss:1.707881327596754e-05
96%|████████████████████████████████████████████████████████████████████████▌ | 11466/12000 [44:02<01:58, 4.52it/s]
train loss:0.002172075328850832
96%|████████████████████████████████████████████████████████████████████████▌ | 11467/12000 [44:03<01:56, 4.57it/s]
train loss:0.00041403727058171455
96%|████████████████████████████████████████████████████████████████████████▋ | 11468/12000 [44:03<01:57, 4.54it/s]
train loss:0.010883229750501301
96%|████████████████████████████████████████████████████████████████████████▋ | 11469/12000 [44:03<01:57, 4.54it/s]
train loss:0.0004214428446993089
96%|████████████████████████████████████████████████████████████████████████▋ | 11470/12000 [44:03<01:57, 4.53it/s]
train loss:0.0007379018733488104
96%|████████████████████████████████████████████████████████████████████████▋ | 11471/12000 [44:04<01:57, 4.51it/s]
train loss:0.0015727973806025173
96%|████████████████████████████████████████████████████████████████████████▋ | 11472/12000 [44:04<01:55, 4.57it/s]
train loss:0.0017472545166505513
96%|████████████████████████████████████████████████████████████████████████▋ | 11473/12000 [44:04<01:56, 4.53it/s]
train loss:0.004489548930387797
96%|████████████████████████████████████████████████████████████████████████▋ | 11474/12000 [44:04<01:56, 4.51it/s]
train loss:0.0006067543312944898
96%|████████████████████████████████████████████████████████████████████████▋ | 11475/12000 [44:04<01:56, 4.50it/s]
train loss:0.001294737425478488
96%|████████████████████████████████████████████████████████████████████████▋ | 11476/12000 [44:05<01:56, 4.50it/s]
train loss:0.00013604642611218665
96%|████████████████████████████████████████████████████████████████████████▋ | 11477/12000 [44:05<01:57, 4.47it/s]
train loss:0.0004113734490770095
96%|████████████████████████████████████████████████████████████████████████▋ | 11478/12000 [44:05<01:57, 4.44it/s]
train loss:0.0004303764692054551
96%|████████████████████████████████████████████████████████████████████████▋ | 11479/12000 [44:05<01:56, 4.45it/s]
train loss:0.0006064471771770755
96%|████████████████████████████████████████████████████████████████████████▋ | 11480/12000 [44:06<01:56, 4.45it/s]
train loss:0.001754886670417803
96%|████████████████████████████████████████████████████████████████████████▋ | 11481/12000 [44:06<01:55, 4.48it/s]
train loss:0.00019493951995089463
96%|████████████████████████████████████████████████████████████████████████▋ | 11482/12000 [44:06<01:55, 4.49it/s]
train loss:5.1519133619142104e-05
96%|████████████████████████████████████████████████████████████████████████▋ | 11483/12000 [44:06<01:54, 4.50it/s]
train loss:5.5406586832431814e-05
96%|████████████████████████████████████████████████████████████████████████▋ | 11484/12000 [44:06<01:54, 4.50it/s]
train loss:8.357227367107584e-05
96%|████████████████████████████████████████████████████████████████████████▋ | 11485/12000 [44:07<01:53, 4.55it/s]
train loss:0.0007549826381126985
96%|████████████████████████████████████████████████████████████████████████▋ | 11486/12000 [44:07<01:53, 4.54it/s]
train loss:0.009610309326048241
96%|████████████████████████████████████████████████████████████████████████▊ | 11487/12000 [44:07<01:53, 4.53it/s]
train loss:0.0038789431911664812
96%|████████████████████████████████████████████████████████████████████████▊ | 11488/12000 [44:07<01:53, 4.51it/s]
train loss:0.000636219651763739
96%|████████████████████████████████████████████████████████████████████████▊ | 11489/12000 [44:08<01:53, 4.50it/s]
train loss:0.0003821582249447075
96%|████████████████████████████████████████████████████████████████████████▊ | 11490/12000 [44:08<01:52, 4.53it/s]
train loss:0.00031728840643575917
96%|████████████████████████████████████████████████████████████████████████▊ | 11491/12000 [44:08<01:52, 4.52it/s]
train loss:4.788626452005308e-05
96%|████████████████████████████████████████████████████████████████████████▊ | 11492/12000 [44:08<01:52, 4.52it/s]
train loss:0.0009345586193169567
96%|████████████████████████████████████████████████████████████████████████▊ | 11493/12000 [44:08<01:53, 4.49it/s]
train loss:0.000933653901131163
96%|████████████████████████████████████████████████████████████████████████▊ | 11494/12000 [44:09<01:51, 4.55it/s]
train loss:0.0005942238623379052
96%|████████████████████████████████████████████████████████████████████████▊ | 11495/12000 [44:09<01:51, 4.53it/s]
train loss:0.0014483031300322278
96%|████████████████████████████████████████████████████████████████████████▊ | 11496/12000 [44:09<01:51, 4.52it/s]
train loss:0.00021623377761528336
96%|████████████████████████████████████████████████████████████████████████▊ | 11497/12000 [44:09<01:51, 4.52it/s]
train loss:0.0005618813905622533
96%|████████████████████████████████████████████████████████████████████████▊ | 11498/12000 [44:10<01:51, 4.50it/s]
train loss:0.00030158293894757225
96%|████████████████████████████████████████████████████████████████████████▊ | 11499/12000 [44:10<01:50, 4.55it/s]
train loss:0.0008975628731593369
96%|████████████████████████████████████████████████████████████████████████▊ | 11500/12000 [44:10<01:50, 4.54it/s]
train loss:0.0012100881301452078
96%|████████████████████████████████████████████████████████████████████████▊ | 11501/12000 [44:10<01:50, 4.53it/s]
train loss:0.0017700167427203662
96%|████████████████████████████████████████████████████████████████████████▊ | 11502/12000 [44:10<01:50, 4.53it/s]
train loss:0.00033671255656295785
96%|████████████████████████████████████████████████████████████████████████▊ | 11503/12000 [44:11<01:49, 4.55it/s]
train loss:0.0008510509359639195
96%|████████████████████████████████████████████████████████████████████████▊ | 11504/12000 [44:11<01:49, 4.55it/s]
train loss:0.0003620618795339457
96%|████████████████████████████████████████████████████████████████████████▊ | 11505/12000 [44:11<01:48, 4.54it/s]
train loss:0.0009424652952691316
96%|████████████████████████████████████████████████████████████████████████▊ | 11506/12000 [44:11<01:49, 4.52it/s]
train loss:0.001241560832308596
96%|████████████████████████████████████████████████████████████████████████▉ | 11507/12000 [44:12<01:49, 4.51it/s]
train loss:0.0005113013605574327 train loss:0.0006665465818764247
96%|████████████████████████████████████████████████████████████████████████▉ | 11509/12000 [44:12<01:48, 4.53it/s]
train loss:0.0002948445028230858
96%|████████████████████████████████████████████████████████████████████████▉ | 11510/12000 [44:12<01:48, 4.52it/s]
train loss:2.8761754022758112e-05
96%|████████████████████████████████████████████████████████████████████████▉ | 11511/12000 [44:12<01:48, 4.51it/s]
train loss:5.6820930527757e-05
96%|████████████████████████████████████████████████████████████████████████▉ | 11512/12000 [44:13<01:47, 4.54it/s]
train loss:0.00027998440154210116
96%|████████████████████████████████████████████████████████████████████████▉ | 11513/12000 [44:13<01:47, 4.54it/s]
train loss:0.0007185565202101439
96%|████████████████████████████████████████████████████████████████████████▉ | 11514/12000 [44:13<01:47, 4.52it/s]
train loss:8.411302987159745e-05
96%|████████████████████████████████████████████████████████████████████████▉ | 11515/12000 [44:13<01:48, 4.49it/s]
train loss:0.0012768338580402589
96%|████████████████████████████████████████████████████████████████████████▉ | 11516/12000 [44:14<01:48, 4.46it/s]
train loss:3.5054259363041454e-05
96%|████████████████████████████████████████████████████████████████████████▉ | 11517/12000 [44:14<01:47, 4.51it/s]
train loss:0.000459866840593677
96%|████████████████████████████████████████████████████████████████████████▉ | 11518/12000 [44:14<01:46, 4.51it/s]
train loss:0.0037530320058886037
96%|████████████████████████████████████████████████████████████████████████▉ | 11519/12000 [44:14<01:46, 4.50it/s]
train loss:0.002034886850360687
96%|████████████████████████████████████████████████████████████████████████▉ | 11520/12000 [44:14<01:46, 4.50it/s]
train loss:0.0010149402381732868
96%|████████████████████████████████████████████████████████████████████████▉ | 11521/12000 [44:15<01:46, 4.51it/s]
train loss:0.0016007246833251462
96%|████████████████████████████████████████████████████████████████████████▉ | 11522/12000 [44:15<01:45, 4.52it/s]
train loss:0.00011168328579870664
96%|████████████████████████████████████████████████████████████████████████▉ | 11523/12000 [44:15<01:46, 4.50it/s]
train loss:0.00013577564383871998
96%|████████████████████████████████████████████████████████████████████████▉ | 11524/12000 [44:15<01:45, 4.50it/s]
train loss:0.00024057476948792774
96%|████████████████████████████████████████████████████████████████████████▉ | 11525/12000 [44:16<01:45, 4.48it/s]
train loss:0.000368376636486869
96%|████████████████████████████████████████████████████████████████████████▉ | 11526/12000 [44:16<01:44, 4.53it/s]
train loss:0.002241204632096956
96%|█████████████████████████████████████████████████████████████████████████ | 11527/12000 [44:16<01:44, 4.52it/s]
train loss:0.0013706697535764215
96%|█████████████████████████████████████████████████████████████████████████ | 11528/12000 [44:16<01:44, 4.51it/s]
train loss:0.0003864909239961643
96%|█████████████████████████████████████████████████████████████████████████ | 11529/12000 [44:16<01:44, 4.50it/s]
train loss:4.0133633843073477e-05
96%|█████████████████████████████████████████████████████████████████████████ | 11530/12000 [44:17<01:43, 4.53it/s]
train loss:0.00023172321323395066
96%|█████████████████████████████████████████████████████████████████████████ | 11531/12000 [44:17<01:43, 4.52it/s]
train loss:9.975987839180442e-06
96%|█████████████████████████████████████████████████████████████████████████ | 11532/12000 [44:17<01:43, 4.51it/s]
train loss:0.0010957707203679099
96%|█████████████████████████████████████████████████████████████████████████ | 11533/12000 [44:17<01:43, 4.51it/s]
train loss:0.0018484867092638086
96%|█████████████████████████████████████████████████████████████████████████ | 11534/12000 [44:17<01:43, 4.48it/s]
train loss:0.0005393688536636781
96%|█████████████████████████████████████████████████████████████████████████ | 11535/12000 [44:18<01:42, 4.54it/s]
train loss:0.000138518817379638
96%|█████████████████████████████████████████████████████████████████████████ | 11536/12000 [44:18<01:42, 4.53it/s]
train loss:3.5957384579418876e-05
96%|█████████████████████████████████████████████████████████████████████████ | 11537/12000 [44:18<01:42, 4.53it/s]
train loss:0.000630694552978656
96%|█████████████████████████████████████████████████████████████████████████ | 11538/12000 [44:18<01:42, 4.52it/s]
train loss:2.380193140813524e-05
96%|█████████████████████████████████████████████████████████████████████████ | 11539/12000 [44:19<01:41, 4.53it/s]
train loss:0.001914470433107022
96%|█████████████████████████████████████████████████████████████████████████ | 11540/12000 [44:19<01:41, 4.54it/s]
train loss:0.00014000144700088924
96%|█████████████████████████████████████████████████████████████████████████ | 11541/12000 [44:19<01:41, 4.53it/s]
train loss:6.749845676943477e-05
96%|█████████████████████████████████████████████████████████████████████████ | 11542/12000 [44:19<01:41, 4.52it/s]
train loss:0.0029721766351186387
96%|█████████████████████████████████████████████████████████████████████████ | 11543/12000 [44:19<01:41, 4.51it/s]
train loss:0.0010346908289176843
96%|█████████████████████████████████████████████████████████████████████████ | 11544/12000 [44:20<01:40, 4.55it/s]
train loss:0.000437985140733024
96%|█████████████████████████████████████████████████████████████████████████ | 11545/12000 [44:20<01:40, 4.53it/s]
train loss:0.0009595931100193776
96%|█████████████████████████████████████████████████████████████████████████ | 11546/12000 [44:20<01:40, 4.51it/s]
train loss:0.004202952448865812
96%|█████████████████████████████████████████████████████████████████████████▏ | 11547/12000 [44:20<01:40, 4.49it/s]
train loss:0.000153270108090089
96%|█████████████████████████████████████████████████████████████████████████▏ | 11548/12000 [44:21<01:40, 4.49it/s]
train loss:0.001070700574585768
96%|█████████████████████████████████████████████████████████████████████████▏ | 11549/12000 [44:21<01:40, 4.51it/s]
train loss:0.00026389897665834907
96%|█████████████████████████████████████████████████████████████████████████▏ | 11550/12000 [44:21<01:39, 4.51it/s]
train loss:0.0013628378272208363
96%|█████████████████████████████████████████████████████████████████████████▏ | 11551/12000 [44:21<01:39, 4.51it/s]
train loss:0.0003128994486613168
96%|█████████████████████████████████████████████████████████████████████████▏ | 11552/12000 [44:21<01:39, 4.51it/s]
train loss:0.0014607330416221275
96%|█████████████████████████████████████████████████████████████████████████▏ | 11553/12000 [44:22<01:38, 4.55it/s]
train loss:0.00047114353771553484
96%|█████████████████████████████████████████████████████████████████████████▏ | 11554/12000 [44:22<01:38, 4.53it/s]
train loss:0.0021195386431706264
96%|█████████████████████████████████████████████████████████████████████████▏ | 11555/12000 [44:22<01:38, 4.52it/s]
train loss:0.0005473775219936619
96%|█████████████████████████████████████████████████████████████████████████▏ | 11556/12000 [44:22<01:38, 4.51it/s]
train loss:0.0007515320805878614
96%|█████████████████████████████████████████████████████████████████████████▏ | 11557/12000 [44:23<01:38, 4.51it/s]
train loss:0.0008857140433124223
96%|█████████████████████████████████████████████████████████████████████████▏ | 11558/12000 [44:23<01:37, 4.53it/s]
train loss:0.0002582991644203309
96%|█████████████████████████████████████████████████████████████████████████▏ | 11559/12000 [44:23<01:37, 4.52it/s]
train loss:2.723297283660582e-05
96%|█████████████████████████████████████████████████████████████████████████▏ | 11560/12000 [44:23<01:37, 4.51it/s]
train loss:0.0003809129788972043
96%|█████████████████████████████████████████████████████████████████████████▏ | 11561/12000 [44:23<01:37, 4.50it/s]
train loss:0.0006049349809720073
96%|█████████████████████████████████████████████████████████████████████████▏ | 11562/12000 [44:24<01:36, 4.56it/s]
train loss:0.0003533899166357492
96%|█████████████████████████████████████████████████████████████████████████▏ | 11563/12000 [44:24<01:36, 4.54it/s]
train loss:0.0002955367098281759
96%|█████████████████████████████████████████████████████████████████████████▏ | 11564/12000 [44:24<01:36, 4.53it/s]
train loss:0.0005433022251640629
96%|█████████████████████████████████████████████████████████████████████████▏ | 11565/12000 [44:24<01:36, 4.52it/s]
train loss:3.154453146840624e-05
96%|█████████████████████████████████████████████████████████████████████████▎ | 11566/12000 [44:25<01:36, 4.52it/s]
train loss:0.00012523081398553313
96%|█████████████████████████████████████████████████████████████████████████▎ | 11567/12000 [44:25<01:35, 4.53it/s]
train loss:0.00013400238109348927
96%|█████████████████████████████████████████████████████████████████████████▎ | 11568/12000 [44:25<01:35, 4.51it/s]
train loss:0.0010832701221862855
96%|█████████████████████████████████████████████████████████████████████████▎ | 11569/12000 [44:25<01:35, 4.52it/s]
train loss:6.139372965053082e-05
96%|█████████████████████████████████████████████████████████████████████████▎ | 11570/12000 [44:25<01:35, 4.49it/s]
train loss:7.82869105532511e-05
96%|█████████████████████████████████████████████████████████████████████████▎ | 11571/12000 [44:26<01:35, 4.51it/s]
train loss:4.387943351329743e-05
96%|█████████████████████████████████████████████████████████████████████████▎ | 11572/12000 [44:26<01:35, 4.50it/s]
train loss:0.0003437993600917618
96%|█████████████████████████████████████████████████████████████████████████▎ | 11573/12000 [44:26<01:34, 4.50it/s]
train loss:0.001848526780941288
96%|█████████████████████████████████████████████████████████████████████████▎ | 11574/12000 [44:26<01:34, 4.51it/s]
train loss:0.001260931046876832
96%|█████████████████████████████████████████████████████████████████████████▎ | 11575/12000 [44:27<01:34, 4.51it/s]
train loss:0.0008871958710744945
96%|█████████████████████████████████████████████████████████████████████████▎ | 11576/12000 [44:27<01:33, 4.55it/s]
train loss:0.001217039017883904
96%|█████████████████████████████████████████████████████████████████████████▎ | 11577/12000 [44:27<01:33, 4.53it/s]
train loss:0.0015979383622312235
96%|█████████████████████████████████████████████████████████████████████████▎ | 11578/12000 [44:27<01:33, 4.51it/s]
train loss:0.0018653363915621646
96%|█████████████████████████████████████████████████████████████████████████▎ | 11579/12000 [44:27<01:33, 4.50it/s]
train loss:0.0007498199209334256
96%|█████████████████████████████████████████████████████████████████████████▎ | 11580/12000 [44:28<01:32, 4.55it/s]
train loss:5.323164544748826e-05
97%|█████████████████████████████████████████████████████████████████████████▎ | 11581/12000 [44:28<01:32, 4.53it/s]
train loss:0.00021803253078127714
97%|█████████████████████████████████████████████████████████████████████████▎ | 11582/12000 [44:28<01:33, 4.49it/s]
train loss:0.00020541529407117398
97%|█████████████████████████████████████████████████████████████████████████▎ | 11583/12000 [44:28<01:32, 4.50it/s]
train loss:0.0008662210642451251
97%|█████████████████████████████████████████████████████████████████████████▎ | 11584/12000 [44:29<01:32, 4.49it/s]
train loss:0.0005664441451273386
97%|█████████████████████████████████████████████████████████████████████████▎ | 11585/12000 [44:29<01:31, 4.53it/s]
train loss:0.00046370709831853907
97%|█████████████████████████████████████████████████████████████████████████▍ | 11586/12000 [44:29<01:31, 4.52it/s]
train loss:0.00036576961734763563
97%|█████████████████████████████████████████████████████████████████████████▍ | 11587/12000 [44:29<01:32, 4.45it/s]
train loss:0.0002836257514221908
97%|█████████████████████████████████████████████████████████████████████████▍ | 11588/12000 [44:29<01:33, 4.43it/s]
train loss:6.880585250890054e-05
97%|█████████████████████████████████████████████████████████████████████████▍ | 11589/12000 [44:30<01:31, 4.49it/s]
train loss:0.0024608835769746027
97%|█████████████████████████████████████████████████████████████████████████▍ | 11590/12000 [44:30<01:31, 4.49it/s]
train loss:0.0001493359932905554
97%|█████████████████████████████████████████████████████████████████████████▍ | 11591/12000 [44:30<01:31, 4.47it/s]
train loss:0.0009872804264071694
97%|█████████████████████████████████████████████████████████████████████████▍ | 11592/12000 [44:30<01:31, 4.44it/s]
train loss:0.00013545247886945807
97%|█████████████████████████████████████████████████████████████████████████▍ | 11593/12000 [44:31<01:31, 4.44it/s]
train loss:0.00015103950346615107
97%|█████████████████████████████████████████████████████████████████████████▍ | 11594/12000 [44:31<01:30, 4.49it/s]
train loss:0.00013380333909612815
97%|█████████████████████████████████████████████████████████████████████████▍ | 11595/12000 [44:31<01:30, 4.47it/s]
train loss:7.734708450784278e-05
97%|█████████████████████████████████████████████████████████████████████████▍ | 11596/12000 [44:31<01:30, 4.48it/s]
train loss:0.00021784440264353266
97%|█████████████████████████████████████████████████████████████████████████▍ | 11598/12000 [44:32<01:28, 4.55it/s]
train loss:0.00012244394649350469 train loss:0.0027073344984785853
97%|█████████████████████████████████████████████████████████████████████████▍ | 11599/12000 [44:32<01:28, 4.53it/s]
train loss:0.0007513092466389238
97%|█████████████████████████████████████████████████████████████████████████▍ | 11600/12000 [44:32<01:28, 4.51it/s]
train loss:0.00019720566535790323
97%|█████████████████████████████████████████████████████████████████████████▍ | 11601/12000 [44:32<01:28, 4.51it/s]
train loss:0.00012747664685389872
97%|█████████████████████████████████████████████████████████████████████████▍ | 11602/12000 [44:33<01:28, 4.52it/s]
train loss:9.107247682187788e-05
97%|█████████████████████████████████████████████████████████████████████████▍ | 11603/12000 [44:33<01:27, 4.53it/s]
train loss:0.000360196423775269
97%|█████████████████████████████████████████████████████████████████████████▍ | 11604/12000 [44:33<01:27, 4.50it/s]
train loss:0.0011231387554061902
97%|█████████████████████████████████████████████████████████████████████████▍ | 11605/12000 [44:33<01:27, 4.49it/s]
train loss:0.00040395407155810774
97%|█████████████████████████████████████████████████████████████████████████▌ | 11606/12000 [44:33<01:28, 4.48it/s]
train loss:0.001367342627403254
97%|█████████████████████████████████████████████████████████████████████████▌ | 11607/12000 [44:34<01:27, 4.51it/s]
train loss:1.8657031185841176e-05
97%|█████████████████████████████████████████████████████████████████████████▌ | 11608/12000 [44:34<01:27, 4.48it/s]
train loss:0.0007393290257872116
97%|█████████████████████████████████████████████████████████████████████████▌ | 11609/12000 [44:34<01:27, 4.47it/s]
train loss:0.0012300941441099951
97%|█████████████████████████████████████████████████████████████████████████▌ | 11610/12000 [44:34<01:27, 4.47it/s]
train loss:0.002541722833507577
97%|█████████████████████████████████████████████████████████████████████████▌ | 11611/12000 [44:35<01:27, 4.46it/s]
train loss:0.0015443103808050623
97%|█████████████████████████████████████████████████████████████████████████▌ | 11612/12000 [44:35<01:26, 4.48it/s]
train loss:0.001347747057963556
97%|█████████████████████████████████████████████████████████████████████████▌ | 11613/12000 [44:35<01:26, 4.48it/s]
train loss:0.0006067182730657368
97%|█████████████████████████████████████████████████████████████████████████▌ | 11614/12000 [44:35<01:25, 4.49it/s]
train loss:0.00011574642532727436
97%|█████████████████████████████████████████████████████████████████████████▌ | 11615/12000 [44:35<01:26, 4.48it/s]
train loss:0.00023305296841533277
97%|█████████████████████████████████████████████████████████████████████████▌ | 11616/12000 [44:36<01:24, 4.53it/s]
train loss:0.0010635267002230505
97%|█████████████████████████████████████████████████████████████████████████▌ | 11617/12000 [44:36<01:25, 4.50it/s]
train loss:0.00027295028651227364
97%|█████████████████████████████████████████████████████████████████████████▌ | 11618/12000 [44:36<01:25, 4.49it/s]
train loss:0.0005574831565113361
97%|█████████████████████████████████████████████████████████████████████████▌ | 11619/12000 [44:36<01:24, 4.49it/s]
train loss:0.0007819033187720739
97%|█████████████████████████████████████████████████████████████████████████▌ | 11620/12000 [44:37<01:24, 4.49it/s]
train loss:0.00012735055335524016
97%|█████████████████████████████████████████████████████████████████████████▌ | 11621/12000 [44:37<01:24, 4.47it/s]
train loss:0.0017101730678626972
97%|█████████████████████████████████████████████████████████████████████████▌ | 11622/12000 [44:37<01:24, 4.48it/s]
train loss:4.876724960881275e-05
97%|█████████████████████████████████████████████████████████████████████████▌ | 11623/12000 [44:37<01:24, 4.48it/s]
train loss:0.0005169856601136283
97%|█████████████████████████████████████████████████████████████████████████▌ | 11624/12000 [44:37<01:24, 4.46it/s]
train loss:0.00022932520227141216
97%|█████████████████████████████████████████████████████████████████████████▋ | 11625/12000 [44:38<01:23, 4.51it/s]
train loss:0.001649215054230803
97%|█████████████████████████████████████████████████████████████████████████▋ | 11626/12000 [44:38<01:23, 4.47it/s]
train loss:0.0024725614310864576
97%|█████████████████████████████████████████████████████████████████████████▋ | 11627/12000 [44:38<01:23, 4.45it/s]
train loss:0.009056339240482365
97%|█████████████████████████████████████████████████████████████████████████▋ | 11628/12000 [44:38<01:23, 4.46it/s]
train loss:0.00017618693717907252
97%|█████████████████████████████████████████████████████████████████████████▋ | 11629/12000 [44:39<01:22, 4.49it/s]
train loss:0.0007686766830575845
97%|█████████████████████████████████████████████████████████████████████████▋ | 11630/12000 [44:39<01:22, 4.51it/s]
train loss:0.0014768219914860301
97%|█████████████████████████████████████████████████████████████████████████▋ | 11631/12000 [44:39<01:22, 4.49it/s]
train loss:0.0014740432492190072
97%|█████████████████████████████████████████████████████████████████████████▋ | 11632/12000 [44:39<01:21, 4.49it/s]
train loss:0.00021378674970696555
97%|█████████████████████████████████████████████████████████████████████████▋ | 11633/12000 [44:39<01:21, 4.49it/s]
train loss:0.0005046216824716921
97%|█████████████████████████████████████████████████████████████████████████▋ | 11634/12000 [44:40<01:20, 4.54it/s]
train loss:0.000516641176864026
97%|█████████████████████████████████████████████████████████████████████████▋ | 11635/12000 [44:40<01:20, 4.51it/s]
train loss:0.0005399444314611384
97%|█████████████████████████████████████████████████████████████████████████▋ | 11636/12000 [44:40<01:20, 4.51it/s]
train loss:0.031326250020041906
97%|█████████████████████████████████████████████████████████████████████████▋ | 11637/12000 [44:40<01:20, 4.52it/s]
train loss:0.0003147980355834902
97%|█████████████████████████████████████████████████████████████████████████▋ | 11638/12000 [44:41<01:20, 4.51it/s]
train loss:0.0008434033105963706
97%|█████████████████████████████████████████████████████████████████████████▋ | 11639/12000 [44:41<01:19, 4.52it/s]
train loss:0.0002714231375895355
97%|█████████████████████████████████████████████████████████████████████████▋ | 11640/12000 [44:41<01:19, 4.52it/s]
train loss:0.001205387773699251
97%|█████████████████████████████████████████████████████████████████████████▋ | 11641/12000 [44:41<01:19, 4.52it/s]
train loss:4.4686861105086574e-05
97%|█████████████████████████████████████████████████████████████████████████▋ | 11642/12000 [44:41<01:19, 4.51it/s]
train loss:0.00023885587287933877
97%|█████████████████████████████████████████████████████████████████████████▋ | 11643/12000 [44:42<01:18, 4.54it/s]
train loss:0.0002031579973894693
97%|█████████████████████████████████████████████████████████████████████████▋ | 11644/12000 [44:42<01:18, 4.51it/s]
train loss:0.0001452438437435799
97%|█████████████████████████████████████████████████████████████████████████▊ | 11645/12000 [44:42<01:18, 4.51it/s]
train loss:8.507809629296004e-05
97%|█████████████████████████████████████████████████████████████████████████▊ | 11646/12000 [44:42<01:19, 4.48it/s]
train loss:0.0003948804864223682
97%|█████████████████████████████████████████████████████████████████████████▊ | 11647/12000 [44:43<01:18, 4.47it/s]
train loss:0.0037047608636351483
97%|█████████████████████████████████████████████████████████████████████████▊ | 11648/12000 [44:43<01:18, 4.47it/s]
train loss:0.00017740398986465126
97%|█████████████████████████████████████████████████████████████████████████▊ | 11649/12000 [44:43<01:18, 4.48it/s]
train loss:0.0012737854106930977
97%|█████████████████████████████████████████████████████████████████████████▊ | 11650/12000 [44:43<01:18, 4.49it/s]
train loss:1.1414071943409302e-05
97%|█████████████████████████████████████████████████████████████████████████▊ | 11651/12000 [44:43<01:17, 4.49it/s]
train loss:4.828537036470238e-05
97%|█████████████████████████████████████████████████████████████████████████▊ | 11652/12000 [44:44<01:16, 4.53it/s]
train loss:0.0009154018936039661
97%|█████████████████████████████████████████████████████████████████████████▊ | 11653/12000 [44:44<01:16, 4.52it/s]
train loss:8.306342217457865e-05
97%|█████████████████████████████████████████████████████████████████████████▊ | 11654/12000 [44:44<01:16, 4.51it/s]
train loss:0.0017068430233933328
97%|█████████████████████████████████████████████████████████████████████████▊ | 11655/12000 [44:44<01:16, 4.50it/s]
train loss:2.6481062497328347e-05
97%|█████████████████████████████████████████████████████████████████████████▊ | 11656/12000 [44:45<01:16, 4.49it/s]
train loss:0.00017610281633137923
97%|█████████████████████████████████████████████████████████████████████████▊ | 11657/12000 [44:45<01:16, 4.51it/s]
train loss:0.00027867546699583527
97%|█████████████████████████████████████████████████████████████████████████▊ | 11658/12000 [44:45<01:16, 4.50it/s]
train loss:0.001944305404371379
97%|█████████████████████████████████████████████████████████████████████████▊ | 11659/12000 [44:45<01:15, 4.50it/s]
train loss:2.9822515293852215e-05
97%|█████████████████████████████████████████████████████████████████████████▊ | 11660/12000 [44:45<01:15, 4.50it/s]
train loss:0.00020537983876010111
97%|█████████████████████████████████████████████████████████████████████████▊ | 11661/12000 [44:46<01:14, 4.54it/s]
train loss:0.0006627396055612748
97%|█████████████████████████████████████████████████████████████████████████▊ | 11662/12000 [44:46<01:14, 4.53it/s]
train loss:0.001151999873481237
97%|█████████████████████████████████████████████████████████████████████████▊ | 11663/12000 [44:46<01:14, 4.52it/s]
train loss:0.00012469901259879853
97%|█████████████████████████████████████████████████████████████████████████▊ | 11664/12000 [44:46<01:14, 4.51it/s]
train loss:0.00011805403631130893
97%|█████████████████████████████████████████████████████████████████████████▉ | 11665/12000 [44:47<01:14, 4.50it/s]
train loss:0.0003375184153160977
97%|█████████████████████████████████████████████████████████████████████████▉ | 11666/12000 [44:47<01:13, 4.52it/s]
train loss:8.569634504877082e-05
97%|█████████████████████████████████████████████████████████████████████████▉ | 11667/12000 [44:47<01:13, 4.51it/s]
train loss:0.000476638098940315
97%|█████████████████████████████████████████████████████████████████████████▉ | 11668/12000 [44:47<01:13, 4.49it/s]
train loss:0.00019722052319702177
97%|█████████████████████████████████████████████████████████████████████████▉ | 11669/12000 [44:47<01:13, 4.49it/s]
train loss:0.0016507292348624854
97%|█████████████████████████████████████████████████████████████████████████▉ | 11670/12000 [44:48<01:12, 4.55it/s]
train loss:0.0004168469671417491
97%|█████████████████████████████████████████████████████████████████████████▉ | 11671/12000 [44:48<01:12, 4.53it/s]
train loss:0.001583696087295578
97%|█████████████████████████████████████████████████████████████████████████▉ | 11672/12000 [44:48<01:12, 4.52it/s]
train loss:0.016676778285267407
97%|█████████████████████████████████████████████████████████████████████████▉ | 11673/12000 [44:48<01:12, 4.49it/s]
train loss:0.00025452476794188896
97%|█████████████████████████████████████████████████████████████████████████▉ | 11674/12000 [44:49<01:12, 4.50it/s]
train loss:0.0004838252996568241
97%|█████████████████████████████████████████████████████████████████████████▉ | 11675/12000 [44:49<01:12, 4.50it/s]
train loss:0.00014455343316413925
97%|█████████████████████████████████████████████████████████████████████████▉ | 11676/12000 [44:49<01:12, 4.50it/s]
train loss:0.00036945392978584337
97%|█████████████████████████████████████████████████████████████████████████▉ | 11677/12000 [44:49<01:11, 4.49it/s]
train loss:0.000973884363315761
97%|█████████████████████████████████████████████████████████████████████████▉ | 11678/12000 [44:49<01:11, 4.48it/s]
train loss:2.2010653932078745e-05
97%|█████████████████████████████████████████████████████████████████████████▉ | 11679/12000 [44:50<01:10, 4.53it/s]
train loss:0.0014120189142498949
97%|█████████████████████████████████████████████████████████████████████████▉ | 11680/12000 [44:50<01:10, 4.52it/s]
train loss:0.0019608315510438335
97%|█████████████████████████████████████████████████████████████████████████▉ | 11681/12000 [44:50<01:10, 4.50it/s]
train loss:0.0005819096389743331
97%|█████████████████████████████████████████████████████████████████████████▉ | 11682/12000 [44:50<01:10, 4.51it/s]
train loss:0.00011800468381418463
97%|█████████████████████████████████████████████████████████████████████████▉ | 11683/12000 [44:51<01:10, 4.51it/s]
train loss:0.00016311368175443434
97%|█████████████████████████████████████████████████████████████████████████▉ | 11684/12000 [44:51<01:09, 4.52it/s]
train loss:9.96479082961104e-06
97%|██████████████████████████████████████████████████████████████████████████ | 11685/12000 [44:51<01:09, 4.51it/s]
train loss:0.0005635941771925112
97%|██████████████████████████████████████████████████████████████████████████ | 11686/12000 [44:51<01:09, 4.51it/s]
train loss:0.0004296383176531239
97%|██████████████████████████████████████████████████████████████████████████ | 11687/12000 [44:51<01:09, 4.51it/s]
train loss:0.002718680284620555
97%|██████████████████████████████████████████████████████████████████████████ | 11688/12000 [44:52<01:08, 4.54it/s]
train loss:0.0015034815449643118
97%|██████████████████████████████████████████████████████████████████████████ | 11689/12000 [44:52<01:08, 4.52it/s]
train loss:0.0007510060509543132
97%|██████████████████████████████████████████████████████████████████████████ | 11690/12000 [44:52<01:08, 4.50it/s]
train loss:0.0003720450760278543
97%|██████████████████████████████████████████████████████████████████████████ | 11691/12000 [44:52<01:08, 4.48it/s]
train loss:0.000936163924736278
97%|██████████████████████████████████████████████████████████████████████████ | 11692/12000 [44:53<01:08, 4.47it/s]
train loss:0.00016054336040694802
97%|██████████████████████████████████████████████████████████████████████████ | 11693/12000 [44:53<01:08, 4.51it/s]
train loss:0.0003828604283675131
97%|██████████████████████████████████████████████████████████████████████████ | 11694/12000 [44:53<01:07, 4.51it/s]
train loss:0.0004423127414487777
97%|██████████████████████████████████████████████████████████████████████████ | 11695/12000 [44:53<01:07, 4.51it/s]
train loss:0.0035345823299449326
97%|██████████████████████████████████████████████████████████████████████████ | 11696/12000 [44:53<01:07, 4.49it/s]
train loss:0.00039413965270504887
97%|██████████████████████████████████████████████████████████████████████████ | 11697/12000 [44:54<01:06, 4.54it/s]
train loss:0.00304491393257594
97%|██████████████████████████████████████████████████████████████████████████ | 11698/12000 [44:54<01:06, 4.53it/s]
train loss:0.0002258143677164917
97%|██████████████████████████████████████████████████████████████████████████ | 11699/12000 [44:54<01:06, 4.52it/s]
train loss:0.0009417204766620993
98%|██████████████████████████████████████████████████████████████████████████ | 11700/12000 [44:54<01:06, 4.51it/s]
train loss:8.092580344769974e-05
98%|██████████████████████████████████████████████████████████████████████████ | 11701/12000 [44:55<01:06, 4.52it/s]
train loss:5.5971437453602466e-05
98%|██████████████████████████████████████████████████████████████████████████ | 11702/12000 [44:55<01:05, 4.55it/s]
train loss:0.0041668641815337795
98%|██████████████████████████████████████████████████████████████████████████ | 11703/12000 [44:55<01:05, 4.53it/s]
train loss:0.0007251931072124816
98%|██████████████████████████████████████████████████████████████████████████▏ | 11704/12000 [44:55<01:05, 4.52it/s]
train loss:6.780260626730943e-05
98%|██████████████████████████████████████████████████████████████████████████▏ | 11705/12000 [44:55<01:05, 4.52it/s]
train loss:0.0011567274423235727
98%|██████████████████████████████████████████████████████████████████████████▏ | 11706/12000 [44:56<01:04, 4.56it/s]
train loss:0.0003328770243958009
98%|██████████████████████████████████████████████████████████████████████████▏ | 11707/12000 [44:56<01:04, 4.54it/s]
train loss:0.006456610494770282
98%|██████████████████████████████████████████████████████████████████████████▏ | 11708/12000 [44:56<01:04, 4.53it/s]
train loss:0.00034019146752570743
98%|██████████████████████████████████████████████████████████████████████████▏ | 11709/12000 [44:56<01:04, 4.52it/s]
train loss:0.001630775755890815
98%|██████████████████████████████████████████████████████████████████████████▏ | 11710/12000 [44:57<01:04, 4.50it/s]
train loss:0.0007636577678981429 train loss:0.00019312405262546323
98%|██████████████████████████████████████████████████████████████████████████▏ | 11712/12000 [44:57<01:03, 4.53it/s]
train loss:0.00039723419057406217
98%|██████████████████████████████████████████████████████████████████████████▏ | 11713/12000 [44:57<01:03, 4.52it/s]
train loss:0.00013204253016633452
98%|██████████████████████████████████████████████████████████████████████████▏ | 11714/12000 [44:57<01:03, 4.49it/s]
train loss:0.0016738320418388916
98%|██████████████████████████████████████████████████████████████████████████▏ | 11715/12000 [44:58<01:02, 4.53it/s]
train loss:0.0018759412717644086
98%|██████████████████████████████████████████████████████████████████████████▏ | 11716/12000 [44:58<01:02, 4.54it/s]
train loss:0.0037254345531614152
98%|██████████████████████████████████████████████████████████████████████████▏ | 11717/12000 [44:58<01:02, 4.53it/s]
train loss:0.00013309729422654392
98%|██████████████████████████████████████████████████████████████████████████▏ | 11718/12000 [44:58<01:02, 4.52it/s]
train loss:0.00011018882728633896
98%|██████████████████████████████████████████████████████████████████████████▏ | 11719/12000 [44:59<01:02, 4.52it/s]
train loss:0.0008137208005718809
98%|██████████████████████████████████████████████████████████████████████████▏ | 11720/12000 [44:59<01:01, 4.52it/s]
train loss:0.00197527495800345
98%|██████████████████████████████████████████████████████████████████████████▏ | 11721/12000 [44:59<01:01, 4.51it/s]
train loss:0.0037116845813861417
98%|██████████████████████████████████████████████████████████████████████████▏ | 11722/12000 [44:59<01:01, 4.52it/s]
train loss:0.0008623957853731879
98%|██████████████████████████████████████████████████████████████████████████▏ | 11723/12000 [44:59<01:01, 4.51it/s]
train loss:0.0007115310919006263
98%|██████████████████████████████████████████████████████████████████████████▎ | 11724/12000 [45:00<01:00, 4.56it/s]
train loss:0.0013806899931924136
98%|██████████████████████████████████████████████████████████████████████████▎ | 11725/12000 [45:00<01:00, 4.52it/s]
train loss:0.001789640579284868
98%|██████████████████████████████████████████████████████████████████████████▎ | 11726/12000 [45:00<01:00, 4.52it/s]
train loss:0.0009244269213952398
98%|██████████████████████████████████████████████████████████████████████████▎ | 11727/12000 [45:00<01:00, 4.51it/s]
train loss:0.0002890864874565203
98%|██████████████████████████████████████████████████████████████████████████▎ | 11728/12000 [45:01<01:00, 4.50it/s]
train loss:3.131069795540052e-05
98%|██████████████████████████████████████████████████████████████████████████▎ | 11729/12000 [45:01<00:59, 4.54it/s]
train loss:0.00028426706874515556
98%|██████████████████████████████████████████████████████████████████████████▎ | 11730/12000 [45:01<00:59, 4.52it/s]
train loss:0.0009307860117064387
98%|██████████████████████████████████████████████████████████████████████████▎ | 11731/12000 [45:01<00:59, 4.49it/s]
train loss:0.005449444674630207
98%|██████████████████████████████████████████████████████████████████████████▎ | 11732/12000 [45:01<00:59, 4.49it/s]
train loss:0.0008136752429355786
98%|██████████████████████████████████████████████████████████████████████████▎ | 11733/12000 [45:02<00:58, 4.54it/s]
train loss:0.0005828051399571753
98%|██████████████████████████████████████████████████████████████████████████▎ | 11734/12000 [45:02<00:58, 4.53it/s]
train loss:0.0034902385220632816
98%|██████████████████████████████████████████████████████████████████████████▎ | 11735/12000 [45:02<00:58, 4.50it/s]
train loss:0.0005578388073451169
98%|██████████████████████████████████████████████████████████████████████████▎ | 11736/12000 [45:02<00:58, 4.50it/s]
train loss:0.0017929239652520774
98%|██████████████████████████████████████████████████████████████████████████▎ | 11737/12000 [45:03<00:58, 4.49it/s]
train loss:0.0003320156052203264
98%|██████████████████████████████████████████████████████████████████████████▎ | 11738/12000 [45:03<00:57, 4.54it/s]
train loss:0.0009004021910481279
98%|██████████████████████████████████████████████████████████████████████████▎ | 11739/12000 [45:03<00:57, 4.52it/s]
train loss:0.00020422685513941366
98%|██████████████████████████████████████████████████████████████████████████▎ | 11740/12000 [45:03<00:57, 4.51it/s]
train loss:2.5350092969197895e-05
98%|██████████████████████████████████████████████████████████████████████████▎ | 11741/12000 [45:03<00:57, 4.51it/s]
train loss:0.0008577460436373962
98%|██████████████████████████████████████████████████████████████████████████▎ | 11742/12000 [45:04<00:56, 4.54it/s]
train loss:0.00021692708435767482
98%|██████████████████████████████████████████████████████████████████████████▎ | 11743/12000 [45:04<00:56, 4.54it/s]
train loss:0.0007056758215821113
98%|██████████████████████████████████████████████████████████████████████████▍ | 11744/12000 [45:04<00:56, 4.52it/s]
train loss:0.0003201253362521108
98%|██████████████████████████████████████████████████████████████████████████▍ | 11745/12000 [45:04<00:56, 4.52it/s]
train loss:0.00015724985810866487
98%|██████████████████████████████████████████████████████████████████████████▍ | 11746/12000 [45:05<00:56, 4.51it/s]
train loss:0.000584159766109892 train loss:0.00030743442883801093
98%|██████████████████████████████████████████████████████████████████████████▍ | 11748/12000 [45:05<00:55, 4.54it/s]
train loss:0.009379910901065415
98%|██████████████████████████████████████████████████████████████████████████▍ | 11749/12000 [45:05<00:55, 4.53it/s]
train loss:0.0001522342552712771
98%|██████████████████████████████████████████████████████████████████████████▍ | 11750/12000 [45:05<00:55, 4.51it/s]
train loss:8.723471947634342e-05
98%|██████████████████████████████████████████████████████████████████████████▍ | 11751/12000 [45:06<00:54, 4.53it/s]
train loss:0.0017932040255064687
98%|██████████████████████████████████████████████████████████████████████████▍ | 11752/12000 [45:06<00:54, 4.53it/s]
train loss:0.0030966733785590898
98%|██████████████████████████████████████████████████████████████████████████▍ | 11753/12000 [45:06<00:54, 4.52it/s]
train loss:0.000396686768558135
98%|██████████████████████████████████████████████████████████████████████████▍ | 11754/12000 [45:06<00:54, 4.51it/s]
train loss:0.0005947518968743835
98%|██████████████████████████████████████████████████████████████████████████▍ | 11755/12000 [45:07<00:54, 4.51it/s]
train loss:0.00013377370241092793
98%|██████████████████████████████████████████████████████████████████████████▍ | 11756/12000 [45:07<00:53, 4.55it/s]
train loss:0.0003701958741118712
98%|██████████████████████████████████████████████████████████████████████████▍ | 11757/12000 [45:07<00:53, 4.52it/s]
train loss:0.002538638860628856
98%|██████████████████████████████████████████████████████████████████████████▍ | 11758/12000 [45:07<00:53, 4.52it/s]
train loss:0.0017723499036882298
98%|██████████████████████████████████████████████████████████████████████████▍ | 11759/12000 [45:07<00:53, 4.51it/s]
train loss:0.001033655760390467
98%|██████████████████████████████████████████████████████████████████████████▍ | 11760/12000 [45:08<00:52, 4.53it/s]
train loss:0.006193307834571437
98%|██████████████████████████████████████████████████████████████████████████▍ | 11761/12000 [45:08<00:52, 4.52it/s]
train loss:0.00047762691520141914
98%|██████████████████████████████████████████████████████████████████████████▍ | 11762/12000 [45:08<00:53, 4.48it/s]
train loss:1.1595935376706203e-05
98%|██████████████████████████████████████████████████████████████████████████▍ | 11763/12000 [45:08<00:53, 4.46it/s]
train loss:0.0005809091461921426
98%|██████████████████████████████████████████████████████████████████████████▌ | 11764/12000 [45:09<00:53, 4.44it/s]
train loss:2.9662616148927007e-05
98%|██████████████████████████████████████████████████████████████████████████▌ | 11765/12000 [45:09<00:52, 4.45it/s]
train loss:0.00010578829187526727
98%|██████████████████████████████████████████████████████████████████████████▌ | 11766/12000 [45:09<00:52, 4.43it/s]
train loss:0.0016607926263467359
98%|██████████████████████████████████████████████████████████████████████████▌ | 11767/12000 [45:09<00:52, 4.45it/s]
train loss:9.071928884652107e-05
98%|██████████████████████████████████████████████████████████████████████████▌ | 11768/12000 [45:09<00:51, 4.47it/s]
train loss:0.0007190622539005098
98%|██████████████████████████████████████████████████████████████████████████▌ | 11769/12000 [45:10<00:51, 4.51it/s]
train loss:0.0013700498123179047
98%|██████████████████████████████████████████████████████████████████████████▌ | 11770/12000 [45:10<00:50, 4.51it/s]
train loss:0.0003086214381901809
98%|██████████████████████████████████████████████████████████████████████████▌ | 11771/12000 [45:10<00:50, 4.50it/s]
train loss:0.0001520319016838724
98%|██████████████████████████████████████████████████████████████████████████▌ | 11772/12000 [45:10<00:50, 4.50it/s]
train loss:0.0019601595854415073
98%|██████████████████████████████████████████████████████████████████████████▌ | 11773/12000 [45:11<00:50, 4.49it/s]
train loss:0.0004168598251081671
98%|██████████████████████████████████████████████████████████████████████████▌ | 11774/12000 [45:11<00:50, 4.50it/s]
train loss:0.005608342705677498
98%|██████████████████████████████████████████████████████████████████████████▌ | 11775/12000 [45:11<00:50, 4.48it/s]
train loss:0.0032774992704503337
98%|██████████████████████████████████████████████████████████████████████████▌ | 11776/12000 [45:11<00:49, 4.48it/s]
train loss:0.0003983705393766636
98%|██████████████████████████████████████████████████████████████████████████▌ | 11777/12000 [45:11<00:49, 4.49it/s]
train loss:0.004062721144186698
98%|██████████████████████████████████████████████████████████████████████████▌ | 11778/12000 [45:12<00:49, 4.52it/s]
train loss:0.0014124640043733582
98%|██████████████████████████████████████████████████████████████████████████▌ | 11779/12000 [45:12<00:48, 4.53it/s]
train loss:0.00228088455199766
98%|██████████████████████████████████████████████████████████████████████████▌ | 11780/12000 [45:12<00:48, 4.52it/s]
train loss:0.0019335199168672502
98%|██████████████████████████████████████████████████████████████████████████▌ | 11781/12000 [45:12<00:48, 4.51it/s]
train loss:0.0008560492349065632
98%|██████████████████████████████████████████████████████████████████████████▌ | 11782/12000 [45:13<00:48, 4.49it/s]
train loss:0.0010942256933030982
98%|██████████████████████████████████████████████████████████████████████████▋ | 11783/12000 [45:13<00:48, 4.51it/s]
train loss:0.0009345207088622398
98%|██████████████████████████████████████████████████████████████████████████▋ | 11784/12000 [45:13<00:48, 4.50it/s]
train loss:0.0007790177071636134
98%|██████████████████████████████████████████████████████████████████████████▋ | 11785/12000 [45:13<00:47, 4.49it/s]
train loss:0.001109258747342571
98%|██████████████████████████████████████████████████████████████████████████▋ | 11786/12000 [45:13<00:47, 4.49it/s]
train loss:0.0011251015471755773
98%|██████████████████████████████████████████████████████████████████████████▋ | 11787/12000 [45:14<00:47, 4.52it/s]
train loss:4.964166313708264e-05
98%|██████████████████████████████████████████████████████████████████████████▋ | 11788/12000 [45:14<00:47, 4.50it/s]
train loss:0.0008848259103457716
98%|██████████████████████████████████████████████████████████████████████████▋ | 11789/12000 [45:14<00:46, 4.50it/s]
train loss:0.0013148661662995326
98%|██████████████████████████████████████████████████████████████████████████▋ | 11790/12000 [45:14<00:46, 4.50it/s]
train loss:0.00016589180099896539
98%|██████████████████████████████████████████████████████████████████████████▋ | 11791/12000 [45:15<00:46, 4.50it/s]
train loss:0.00027649623221006323
98%|██████████████████████████████████████████████████████████████████████████▋ | 11792/12000 [45:15<00:46, 4.51it/s]
train loss:0.0018140331438172405
98%|██████████████████████████████████████████████████████████████████████████▋ | 11793/12000 [45:15<00:45, 4.51it/s]
train loss:0.0011925811496515098
98%|██████████████████████████████████████████████████████████████████████████▋ | 11794/12000 [45:15<00:45, 4.51it/s]
train loss:0.0008198729015681299
98%|██████████████████████████████████████████████████████████████████████████▋ | 11795/12000 [45:15<00:45, 4.51it/s]
train loss:0.0012944221567886107
98%|██████████████████████████████████████████████████████████████████████████▋ | 11796/12000 [45:16<00:45, 4.53it/s]
train loss:0.0016582099616097776
98%|██████████████████████████████████████████████████████████████████████████▋ | 11797/12000 [45:16<00:44, 4.53it/s]
train loss:0.003150798051765709
98%|██████████████████████████████████████████████████████████████████████████▋ | 11798/12000 [45:16<00:44, 4.52it/s]
train loss:0.000502509431149709
98%|██████████████████████████████████████████████████████████████████████████▋ | 11799/12000 [45:16<00:44, 4.52it/s]
train loss:0.0002502916074735899
98%|██████████████████████████████████████████████████████████████████████████▋ | 11800/12000 [45:17<00:44, 4.51it/s]
train loss:0.0008614516560317206
98%|██████████████████████████████████████████████████████████████████████████▋ | 11801/12000 [45:17<00:43, 4.55it/s]
train loss:0.0003905036156976871
98%|██████████████████████████████████████████████████████████████████████████▋ | 11802/12000 [45:17<00:43, 4.54it/s]
train loss:0.0005363092327684809
98%|██████████████████████████████████████████████████████████████████████████▊ | 11803/12000 [45:17<00:43, 4.53it/s]
train loss:7.888684766365727e-05
98%|██████████████████████████████████████████████████████████████████████████▊ | 11804/12000 [45:17<00:44, 4.44it/s]
train loss:0.0031761669641739414
98%|██████████████████████████████████████████████████████████████████████████▊ | 11805/12000 [45:18<00:43, 4.47it/s]
train loss:0.0022472931256605176
98%|██████████████████████████████████████████████████████████████████████████▊ | 11806/12000 [45:18<00:43, 4.45it/s]
train loss:0.0012849547583564933
98%|██████████████████████████████████████████████████████████████████████████▊ | 11807/12000 [45:18<00:43, 4.45it/s]
train loss:0.0005655413414632289
98%|██████████████████████████████████████████████████████████████████████████▊ | 11808/12000 [45:18<00:43, 4.45it/s]
train loss:0.002970605058205581
98%|██████████████████████████████████████████████████████████████████████████▊ | 11809/12000 [45:19<00:42, 4.45it/s]
train loss:0.001101179280297319
98%|██████████████████████████████████████████████████████████████████████████▊ | 11810/12000 [45:19<00:42, 4.49it/s]
train loss:0.0025593849416374105
98%|██████████████████████████████████████████████████████████████████████████▊ | 11811/12000 [45:19<00:42, 4.47it/s]
train loss:0.0014815619303474652
98%|██████████████████████████████████████████████████████████████████████████▊ | 11812/12000 [45:19<00:42, 4.46it/s]
train loss:0.0008534405395878217
98%|██████████████████████████████████████████████████████████████████████████▊ | 11813/12000 [45:19<00:41, 4.46it/s]
train loss:7.169764689471133e-05
98%|██████████████████████████████████████████████████████████████████████████▊ | 11814/12000 [45:20<00:41, 4.46it/s]
train loss:0.0001134960056169943
98%|██████████████████████████████████████████████████████████████████████████▊ | 11815/12000 [45:20<00:41, 4.47it/s]
train loss:4.505509774275818e-05
98%|██████████████████████████████████████████████████████████████████████████▊ | 11816/12000 [45:20<00:41, 4.46it/s]
train loss:0.00045383520665052523
98%|██████████████████████████████████████████████████████████████████████████▊ | 11817/12000 [45:20<00:40, 4.46it/s]
train loss:0.0008265248406062902
98%|██████████████████████████████████████████████████████████████████████████▊ | 11818/12000 [45:21<00:41, 4.42it/s]
train loss:0.0010497325969653
98%|██████████████████████████████████████████████████████████████████████████▊ | 11819/12000 [45:21<00:40, 4.43it/s]
train loss:6.35629250952651e-05
98%|██████████████████████████████████████████████████████████████████████████▊ | 11820/12000 [45:21<00:40, 4.43it/s]
train loss:0.00028184256213392885
99%|██████████████████████████████████████████████████████████████████████████▊ | 11821/12000 [45:21<00:40, 4.45it/s]
train loss:1.1335068115893121e-05
99%|██████████████████████████████████████████████████████████████████████████▊ | 11822/12000 [45:21<00:40, 4.45it/s]
train loss:9.423607388321837e-05
99%|██████████████████████████████████████████████████████████████████████████▉ | 11823/12000 [45:22<00:40, 4.42it/s]
train loss:0.0017390301166200015
99%|██████████████████████████████████████████████████████████████████████████▉ | 11824/12000 [45:22<00:39, 4.43it/s]
train loss:0.0021336002036415887
99%|██████████████████████████████████████████████████████████████████████████▉ | 11825/12000 [45:22<00:39, 4.49it/s]
train loss:0.00012171601204351703
99%|██████████████████████████████████████████████████████████████████████████▉ | 11826/12000 [45:22<00:38, 4.47it/s]
train loss:0.0017026266223624008
99%|██████████████████████████████████████████████████████████████████████████▉ | 11827/12000 [45:23<00:39, 4.43it/s]
train loss:0.0005143639961937678
99%|██████████████████████████████████████████████████████████████████████████▉ | 11828/12000 [45:23<00:38, 4.48it/s]
train loss:0.0002747251068942047
99%|██████████████████████████████████████████████████████████████████████████▉ | 11829/12000 [45:23<00:38, 4.48it/s]
train loss:0.006086454517520229
99%|██████████████████████████████████████████████████████████████████████████▉ | 11830/12000 [45:23<00:37, 4.48it/s]
train loss:0.00046024466521186845
99%|██████████████████████████████████████████████████████████████████████████▉ | 11831/12000 [45:23<00:40, 4.20it/s]
train loss:0.0011145671874705392
99%|██████████████████████████████████████████████████████████████████████████▉ | 11832/12000 [45:24<00:41, 4.07it/s]
train loss:0.00013445397312626718
99%|██████████████████████████████████████████████████████████████████████████▉ | 11833/12000 [45:24<00:42, 3.95it/s]
train loss:0.0017568619211592424
99%|██████████████████████████████████████████████████████████████████████████▉ | 11834/12000 [45:24<00:42, 3.87it/s]
train loss:0.0005176707790432629
99%|██████████████████████████████████████████████████████████████████████████▉ | 11835/12000 [45:25<00:43, 3.83it/s]
train loss:0.0013001280791728699
99%|██████████████████████████████████████████████████████████████████████████▉ | 11836/12000 [45:25<00:41, 3.98it/s]
train loss:0.0006232445801500067
99%|██████████████████████████████████████████████████████████████████████████▉ | 11837/12000 [45:25<00:39, 4.11it/s]
train loss:0.001518694821314872
99%|██████████████████████████████████████████████████████████████████████████▉ | 11838/12000 [45:25<00:38, 4.21it/s]
train loss:0.00312463726744951
99%|██████████████████████████████████████████████████████████████████████████▉ | 11839/12000 [45:25<00:38, 4.16it/s]
train loss:0.0013709883991388705
99%|██████████████████████████████████████████████████████████████████████████▉ | 11840/12000 [45:26<00:37, 4.30it/s]
train loss:0.004097234472225179
99%|██████████████████████████████████████████████████████████████████████████▉ | 11841/12000 [45:26<00:36, 4.36it/s]
train loss:0.00015211483774155613
99%|██████████████████████████████████████████████████████████████████████████▉ | 11842/12000 [45:26<00:35, 4.40it/s]
train loss:0.0035498792826654606
99%|███████████████████████████████████████████████████████████████████████████ | 11843/12000 [45:26<00:35, 4.44it/s]
train loss:3.786032858086868e-05
99%|███████████████████████████████████████████████████████████████████████████ | 11844/12000 [45:27<00:35, 4.44it/s]
train loss:0.0007197824665022528
99%|███████████████████████████████████████████████████████████████████████████ | 11845/12000 [45:27<00:34, 4.48it/s]
train loss:0.0010572451535697859
99%|███████████████████████████████████████████████████████████████████████████ | 11846/12000 [45:27<00:34, 4.49it/s]
train loss:0.0007056032594463291
99%|███████████████████████████████████████████████████████████████████████████ | 11847/12000 [45:27<00:34, 4.49it/s]
train loss:0.015713437932516502
99%|███████████████████████████████████████████████████████████████████████████ | 11848/12000 [45:27<00:33, 4.50it/s]
train loss:0.00010944728409998362
99%|███████████████████████████████████████████████████████████████████████████ | 11849/12000 [45:28<00:33, 4.45it/s]
train loss:0.0023488530801245486
99%|███████████████████████████████████████████████████████████████████████████ | 11850/12000 [45:28<00:33, 4.47it/s]
train loss:0.0006973400685820034
99%|███████████████████████████████████████████████████████████████████████████ | 11851/12000 [45:28<00:33, 4.48it/s]
train loss:0.02047472551852152
99%|███████████████████████████████████████████████████████████████████████████ | 11852/12000 [45:28<00:32, 4.49it/s]
train loss:9.88399535173851e-05
99%|███████████████████████████████████████████████████████████████████████████ | 11853/12000 [45:29<00:33, 4.45it/s]
train loss:0.0009310044765470863
99%|███████████████████████████████████████████████████████████████████████████ | 11854/12000 [45:29<00:32, 4.48it/s]
train loss:3.2110901371433475e-05
99%|███████████████████████████████████████████████████████████████████████████ | 11855/12000 [45:29<00:32, 4.50it/s]
train loss:0.00019326322332130976
99%|███████████████████████████████████████████████████████████████████████████ | 11856/12000 [45:29<00:31, 4.50it/s]
train loss:0.0006160083573895717
99%|███████████████████████████████████████████████████████████████████████████ | 11857/12000 [45:29<00:32, 4.47it/s]
train loss:0.0008252293662892255
99%|███████████████████████████████████████████████████████████████████████████ | 11858/12000 [45:30<00:31, 4.48it/s]
train loss:3.413971517755646e-05
99%|███████████████████████████████████████████████████████████████████████████ | 11859/12000 [45:30<00:31, 4.50it/s]
train loss:0.00036426557263044177
99%|███████████████████████████████████████████████████████████████████████████ | 11860/12000 [45:30<00:31, 4.50it/s]
train loss:0.00044894917042917763
99%|███████████████████████████████████████████████████████████████████████████ | 11861/12000 [45:30<00:30, 4.51it/s]
train loss:0.000730949995525326
99%|███████████████████████████████████████████████████████████████████████████▏| 11862/12000 [45:31<00:30, 4.52it/s]
train loss:0.0005690374388260042
99%|███████████████████████████████████████████████████████████████████████████▏| 11863/12000 [45:31<00:30, 4.54it/s]
train loss:0.00013991052110333603
99%|███████████████████████████████████████████████████████████████████████████▏| 11864/12000 [45:31<00:30, 4.53it/s]
train loss:0.0005158812019873825
99%|███████████████████████████████████████████████████████████████████████████▏| 11865/12000 [45:31<00:29, 4.53it/s]
train loss:0.0019071198334722542
99%|███████████████████████████████████████████████████████████████████████████▏| 11867/12000 [45:32<00:29, 4.57it/s]
train loss:0.0008089237494432991 train loss:0.0006022798195659021
99%|███████████████████████████████████████████████████████████████████████████▏| 11868/12000 [45:32<00:28, 4.56it/s]
train loss:0.0012935849832496574
99%|███████████████████████████████████████████████████████████████████████████▏| 11869/12000 [45:32<00:28, 4.54it/s]
train loss:7.957919847836179e-05
99%|███████████████████████████████████████████████████████████████████████████▏| 11870/12000 [45:32<00:28, 4.54it/s]
train loss:0.0011733935821464823
99%|███████████████████████████████████████████████████████████████████████████▏| 11871/12000 [45:33<00:28, 4.53it/s]
train loss:0.00045898050771971637
99%|███████████████████████████████████████████████████████████████████████████▏| 11872/12000 [45:33<00:28, 4.54it/s]
train loss:3.597597432258739e-05
99%|███████████████████████████████████████████████████████████████████████████▏| 11873/12000 [45:33<00:27, 4.54it/s]
train loss:3.55790731163833e-05
99%|███████████████████████████████████████████████████████████████████████████▏| 11874/12000 [45:33<00:27, 4.53it/s]
train loss:6.651485105757778e-05
99%|███████████████████████████████████████████████████████████████████████████▏| 11875/12000 [45:33<00:27, 4.52it/s]
train loss:0.00013286230372198927 train loss:1.633574806058466e-05
99%|███████████████████████████████████████████████████████████████████████████▏| 11877/12000 [45:34<00:27, 4.55it/s]
train loss:0.0001252620979400474
99%|███████████████████████████████████████████████████████████████████████████▏| 11878/12000 [45:34<00:26, 4.54it/s]
train loss:2.9535670463451116e-05
99%|███████████████████████████████████████████████████████████████████████████▏| 11879/12000 [45:34<00:26, 4.53it/s]
train loss:0.0006011225906109846
99%|███████████████████████████████████████████████████████████████████████████▏| 11880/12000 [45:35<00:26, 4.54it/s]
train loss:0.0015791557383767873
99%|███████████████████████████████████████████████████████████████████████████▏| 11881/12000 [45:35<00:26, 4.56it/s]
train loss:4.849583824779956e-05
99%|███████████████████████████████████████████████████████████████████████████▎| 11882/12000 [45:35<00:25, 4.55it/s]
train loss:0.0015718143908506654
99%|███████████████████████████████████████████████████████████████████████████▎| 11883/12000 [45:35<00:25, 4.54it/s]
train loss:0.0002854291328979007
99%|███████████████████████████████████████████████████████████████████████████▎| 11884/12000 [45:35<00:25, 4.53it/s]
train loss:0.00039570473316349143
99%|███████████████████████████████████████████████████████████████████████████▎| 11885/12000 [45:36<00:25, 4.58it/s]
train loss:0.0001976703242149738
99%|███████████████████████████████████████████████████████████████████████████▎| 11886/12000 [45:36<00:25, 4.56it/s]
train loss:0.0006561165335512725
99%|███████████████████████████████████████████████████████████████████████████▎| 11887/12000 [45:36<00:24, 4.54it/s]
train loss:0.00091720218197884
99%|███████████████████████████████████████████████████████████████████████████▎| 11888/12000 [45:36<00:24, 4.53it/s]
train loss:0.0002744119986958396
99%|███████████████████████████████████████████████████████████████████████████▎| 11889/12000 [45:37<00:24, 4.52it/s]
train loss:0.00012379603426556488
99%|███████████████████████████████████████████████████████████████████████████▎| 11890/12000 [45:37<00:24, 4.56it/s]
train loss:0.0011024919313645752
99%|███████████████████████████████████████████████████████████████████████████▎| 11891/12000 [45:37<00:23, 4.54it/s]
train loss:0.010361520538714992
99%|███████████████████████████████████████████████████████████████████████████▎| 11892/12000 [45:37<00:23, 4.53it/s]
train loss:0.00028134150611479526
99%|███████████████████████████████████████████████████████████████████████████▎| 11893/12000 [45:37<00:23, 4.52it/s]
train loss:2.257761401976718e-05
99%|███████████████████████████████████████████████████████████████████████████▎| 11894/12000 [45:38<00:23, 4.56it/s]
train loss:0.0005352039235729714
99%|███████████████████████████████████████████████████████████████████████████▎| 11895/12000 [45:38<00:23, 4.54it/s]
train loss:0.001569128919710222
99%|███████████████████████████████████████████████████████████████████████████▎| 11896/12000 [45:38<00:23, 4.52it/s]
train loss:0.000855005770998447
99%|███████████████████████████████████████████████████████████████████████████▎| 11897/12000 [45:38<00:22, 4.51it/s]
train loss:0.00023739422453194228
99%|███████████████████████████████████████████████████████████████████████████▎| 11899/12000 [45:39<00:22, 4.55it/s]
train loss:0.0006596250205658232 train loss:0.00031981982617127684
99%|███████████████████████████████████████████████████████████████████████████▎| 11900/12000 [45:39<00:22, 4.54it/s]
train loss:0.000526656920777637
99%|███████████████████████████████████████████████████████████████████████████▎| 11901/12000 [45:39<00:21, 4.53it/s]
train loss:0.0005830510158590415
99%|███████████████████████████████████████████████████████████████████████████▍| 11902/12000 [45:39<00:21, 4.53it/s]
train loss:0.0003386850779443591
99%|███████████████████████████████████████████████████████████████████████████▍| 11903/12000 [45:40<00:21, 4.55it/s]
train loss:0.0003012939863334461
99%|███████████████████████████████████████████████████████████████████████████▍| 11904/12000 [45:40<00:21, 4.54it/s]
train loss:0.0035719133603004743
99%|███████████████████████████████████████████████████████████████████████████▍| 11905/12000 [45:40<00:21, 4.51it/s]
train loss:0.0006772648829894264
99%|███████████████████████████████████████████████████████████████████████████▍| 11906/12000 [45:40<00:20, 4.50it/s]
train loss:0.0008820388613145937
99%|███████████████████████████████████████████████████████████████████████████▍| 11907/12000 [45:41<00:20, 4.49it/s]
train loss:0.0001204853652789483
99%|███████████████████████████████████████████████████████████████████████████▍| 11908/12000 [45:41<00:20, 4.55it/s]
train loss:0.0005910698002528701
99%|███████████████████████████████████████████████████████████████████████████▍| 11909/12000 [45:41<00:20, 4.54it/s]
train loss:7.283141071992288e-06
99%|███████████████████████████████████████████████████████████████████████████▍| 11910/12000 [45:41<00:19, 4.53it/s]
train loss:0.000872037302130074
99%|███████████████████████████████████████████████████████████████████████████▍| 11911/12000 [45:41<00:19, 4.52it/s]
train loss:0.005304872138691237
99%|███████████████████████████████████████████████████████████████████████████▍| 11912/12000 [45:42<00:19, 4.52it/s]
train loss:0.0009948358474101465
99%|███████████████████████████████████████████████████████████████████████████▍| 11913/12000 [45:42<00:19, 4.53it/s]
train loss:0.00019120285452633502
99%|███████████████████████████████████████████████████████████████████████████▍| 11914/12000 [45:42<00:18, 4.53it/s]
train loss:0.0015460845452494845
99%|███████████████████████████████████████████████████████████████████████████▍| 11915/12000 [45:42<00:18, 4.52it/s]
train loss:0.00023758717862610193
99%|███████████████████████████████████████████████████████████████████████████▍| 11916/12000 [45:43<00:18, 4.52it/s]
train loss:0.0009570330227940984
99%|███████████████████████████████████████████████████████████████████████████▍| 11917/12000 [45:43<00:18, 4.56it/s]
train loss:0.001235794022908607
99%|███████████████████████████████████████████████████████████████████████████▍| 11918/12000 [45:43<00:18, 4.54it/s]
train loss:0.02033969832894625
99%|███████████████████████████████████████████████████████████████████████████▍| 11919/12000 [45:43<00:17, 4.53it/s]
train loss:0.0016548144139460772
99%|███████████████████████████████████████████████████████████████████████████▍| 11920/12000 [45:43<00:17, 4.53it/s]
train loss:0.001695816411418544
99%|███████████████████████████████████████████████████████████████████████████▍| 11921/12000 [45:44<00:17, 4.53it/s]
train loss:0.001598176012294646
99%|███████████████████████████████████████████████████████████████████████████▌| 11922/12000 [45:44<00:17, 4.54it/s]
train loss:0.0010348032163690621
99%|███████████████████████████████████████████████████████████████████████████▌| 11923/12000 [45:44<00:17, 4.53it/s]
train loss:0.0008002286462296135
99%|███████████████████████████████████████████████████████████████████████████▌| 11924/12000 [45:44<00:16, 4.53it/s]
train loss:9.347172106462161e-05
99%|███████████████████████████████████████████████████████████████████████████▌| 11926/12000 [45:45<00:16, 4.56it/s]
train loss:0.0014464661391933322 train loss:0.0003662144526204566
99%|███████████████████████████████████████████████████████████████████████████▌| 11927/12000 [45:45<00:16, 4.54it/s]
train loss:7.122428333896619e-05
99%|███████████████████████████████████████████████████████████████████████████▌| 11928/12000 [45:45<00:15, 4.53it/s]
train loss:0.00017347442340078157
99%|███████████████████████████████████████████████████████████████████████████▌| 11929/12000 [45:45<00:15, 4.53it/s]
train loss:0.0001606710128383676
99%|███████████████████████████████████████████████████████████████████████████▌| 11930/12000 [45:46<00:15, 4.54it/s]
train loss:0.0016833324335531095
99%|███████████████████████████████████████████████████████████████████████████▌| 11931/12000 [45:46<00:15, 4.55it/s]
train loss:0.0002896835195976894
99%|███████████████████████████████████████████████████████████████████████████▌| 11932/12000 [45:46<00:14, 4.54it/s]
train loss:0.001140357201070355
99%|███████████████████████████████████████████████████████████████████████████▌| 11933/12000 [45:46<00:14, 4.53it/s]
train loss:0.00020859681468387615
99%|███████████████████████████████████████████████████████████████████████████▌| 11935/12000 [45:47<00:14, 4.56it/s]
train loss:7.687284522668078e-06 train loss:2.6195612585524752e-05
99%|███████████████████████████████████████████████████████████████████████████▌| 11936/12000 [45:47<00:14, 4.54it/s]
train loss:5.460596421019805e-05
99%|███████████████████████████████████████████████████████████████████████████▌| 11937/12000 [45:47<00:13, 4.54it/s]
train loss:0.000615569580249292
99%|███████████████████████████████████████████████████████████████████████████▌| 11938/12000 [45:47<00:13, 4.53it/s]
train loss:7.618742893922799e-05
99%|███████████████████████████████████████████████████████████████████████████▌| 11939/12000 [45:48<00:13, 4.53it/s]
train loss:0.0002263443401033884
100%|███████████████████████████████████████████████████████████████████████████▌| 11940/12000 [45:48<00:13, 4.55it/s]
train loss:0.00031106124290276416
100%|███████████████████████████████████████████████████████████████████████████▋| 11941/12000 [45:48<00:13, 4.54it/s]
train loss:0.0009330439825557081
100%|███████████████████████████████████████████████████████████████████████████▋| 11942/12000 [45:48<00:12, 4.53it/s]
train loss:0.0019342981178388481
100%|███████████████████████████████████████████████████████████████████████████▋| 11943/12000 [45:48<00:12, 4.51it/s]
train loss:0.0013837298189451272
100%|███████████████████████████████████████████████████████████████████████████▋| 11944/12000 [45:49<00:12, 4.55it/s]
train loss:0.0007311369771470836
100%|███████████████████████████████████████████████████████████████████████████▋| 11945/12000 [45:49<00:12, 4.53it/s]
train loss:0.0006575943704333309
100%|███████████████████████████████████████████████████████████████████████████▋| 11946/12000 [45:49<00:11, 4.51it/s]
train loss:0.0017279656375905766
100%|███████████████████████████████████████████████████████████████████████████▋| 11947/12000 [45:49<00:11, 4.49it/s]
train loss:9.447345718790657e-05
100%|███████████████████████████████████████████████████████████████████████████▋| 11948/12000 [45:50<00:11, 4.48it/s]
train loss:0.0002560360332358939
100%|███████████████████████████████████████████████████████████████████████████▋| 11949/12000 [45:50<00:11, 4.49it/s]
train loss:0.004231314770164255
100%|███████████████████████████████████████████████████████████████████████████▋| 11950/12000 [45:50<00:11, 4.46it/s]
train loss:5.4151131986102336e-05
100%|███████████████████████████████████████████████████████████████████████████▋| 11951/12000 [45:50<00:10, 4.48it/s]
train loss:0.0004299313619492272
100%|███████████████████████████████████████████████████████████████████████████▋| 11952/12000 [45:50<00:10, 4.48it/s]
train loss:0.0001498915378687496
100%|███████████████████████████████████████████████████████████████████████████▋| 11953/12000 [45:51<00:10, 4.52it/s]
train loss:0.00025377181792175145
100%|███████████████████████████████████████████████████████████████████████████▋| 11954/12000 [45:51<00:10, 4.52it/s]
train loss:0.0006959024012618837
100%|███████████████████████████████████████████████████████████████████████████▋| 11955/12000 [45:51<00:09, 4.52it/s]
train loss:0.00016112657846610056
100%|███████████████████████████████████████████████████████████████████████████▋| 11956/12000 [45:51<00:09, 4.50it/s]
train loss:0.00017054944635394812
100%|███████████████████████████████████████████████████████████████████████████▋| 11957/12000 [45:52<00:09, 4.50it/s]
train loss:0.0024398523366449985
100%|███████████████████████████████████████████████████████████████████████████▋| 11958/12000 [45:52<00:09, 4.52it/s]
train loss:7.463478610954462e-05
100%|███████████████████████████████████████████████████████████████████████████▋| 11959/12000 [45:52<00:09, 4.52it/s]
train loss:0.0007013978996954124
100%|███████████████████████████████████████████████████████████████████████████▋| 11960/12000 [45:52<00:08, 4.51it/s]
train loss:5.188881282734573e-05
100%|███████████████████████████████████████████████████████████████████████████▊| 11961/12000 [45:52<00:08, 4.51it/s]
train loss:0.0009235719700703975
100%|███████████████████████████████████████████████████████████████████████████▊| 11962/12000 [45:53<00:08, 4.55it/s]
train loss:0.00021036306223577494
100%|███████████████████████████████████████████████████████████████████████████▊| 11963/12000 [45:53<00:08, 4.54it/s]
train loss:0.0004059534483958308
100%|███████████████████████████████████████████████████████████████████████████▊| 11964/12000 [45:53<00:07, 4.53it/s]
train loss:0.004950105915230926
100%|███████████████████████████████████████████████████████████████████████████▊| 11965/12000 [45:53<00:07, 4.52it/s]
train loss:0.0017902937249083873
100%|███████████████████████████████████████████████████████████████████████████▊| 11966/12000 [45:54<00:07, 4.52it/s]
train loss:9.004162872205635e-05
100%|███████████████████████████████████████████████████████████████████████████▊| 11967/12000 [45:54<00:07, 4.55it/s]
train loss:0.0002022833689021123
100%|███████████████████████████████████████████████████████████████████████████▊| 11968/12000 [45:54<00:07, 4.54it/s]
train loss:0.00035389711305822526
100%|███████████████████████████████████████████████████████████████████████████▊| 11969/12000 [45:54<00:06, 4.53it/s]
train loss:4.867834713232374e-05
100%|███████████████████████████████████████████████████████████████████████████▊| 11970/12000 [45:54<00:06, 4.51it/s]
train loss:0.00021153916864198436
100%|███████████████████████████████████████████████████████████████████████████▊| 11971/12000 [45:55<00:06, 4.55it/s]
train loss:8.728019479151513e-05
100%|███████████████████████████████████████████████████████████████████████████▊| 11972/12000 [45:55<00:06, 4.54it/s]
train loss:0.0003680119895055005
100%|███████████████████████████████████████████████████████████████████████████▊| 11973/12000 [45:55<00:05, 4.53it/s]
train loss:0.00043452341142140777
100%|███████████████████████████████████████████████████████████████████████████▊| 11974/12000 [45:55<00:05, 4.52it/s]
train loss:0.00018856901853382156
100%|███████████████████████████████████████████████████████████████████████████▊| 11975/12000 [45:56<00:05, 4.51it/s]
train loss:0.0005577825624998914
100%|███████████████████████████████████████████████████████████████████████████▊| 11976/12000 [45:56<00:05, 4.57it/s]
train loss:3.5871892487387124e-05
100%|███████████████████████████████████████████████████████████████████████████▊| 11977/12000 [45:56<00:05, 4.53it/s]
train loss:0.00021706178614936138
100%|███████████████████████████████████████████████████████████████████████████▊| 11978/12000 [45:56<00:04, 4.52it/s]
train loss:0.0004249269386708157
100%|███████████████████████████████████████████████████████████████████████████▊| 11979/12000 [45:56<00:04, 4.49it/s]
train loss:0.00010486173381900004
100%|███████████████████████████████████████████████████████████████████████████▊| 11980/12000 [45:57<00:04, 4.52it/s]
train loss:0.00040025777332476864
100%|███████████████████████████████████████████████████████████████████████████▉| 11981/12000 [45:57<00:04, 4.49it/s]
train loss:0.0008929667028396594
100%|███████████████████████████████████████████████████████████████████████████▉| 11982/12000 [45:57<00:04, 4.49it/s]
train loss:0.0010104293370919847
100%|███████████████████████████████████████████████████████████████████████████▉| 11983/12000 [45:57<00:03, 4.48it/s]
train loss:0.00022952229436689811
100%|███████████████████████████████████████████████████████████████████████████▉| 11984/12000 [45:58<00:03, 4.47it/s]
train loss:0.0004921970471526909
100%|███████████████████████████████████████████████████████████████████████████▉| 11985/12000 [45:58<00:03, 4.52it/s]
train loss:6.787725548990294e-05
100%|███████████████████████████████████████████████████████████████████████████▉| 11986/12000 [45:58<00:03, 4.50it/s]
train loss:0.0005492199157643499
100%|███████████████████████████████████████████████████████████████████████████▉| 11987/12000 [45:58<00:02, 4.49it/s]
train loss:0.00038104831540618293
100%|███████████████████████████████████████████████████████████████████████████▉| 11988/12000 [45:58<00:02, 4.50it/s]
train loss:0.00017161499035584573
100%|███████████████████████████████████████████████████████████████████████████▉| 11989/12000 [45:59<00:02, 4.56it/s]
train loss:0.0003887169542557282
100%|███████████████████████████████████████████████████████████████████████████▉| 11990/12000 [45:59<00:02, 4.53it/s]
train loss:3.5377786053825553e-06
100%|███████████████████████████████████████████████████████████████████████████▉| 11991/12000 [45:59<00:01, 4.53it/s]
train loss:0.00016125366479794595
100%|███████████████████████████████████████████████████████████████████████████▉| 11992/12000 [45:59<00:01, 4.53it/s]
train loss:0.0001400263152092167
100%|███████████████████████████████████████████████████████████████████████████▉| 11993/12000 [46:00<00:01, 4.50it/s]
train loss:0.00035528929985913
100%|███████████████████████████████████████████████████████████████████████████▉| 11994/12000 [46:00<00:01, 4.53it/s]
train loss:0.00047404278971068176
100%|███████████████████████████████████████████████████████████████████████████▉| 11995/12000 [46:00<00:01, 4.53it/s]
train loss:0.001310753289143791
100%|███████████████████████████████████████████████████████████████████████████▉| 11996/12000 [46:00<00:00, 4.53it/s]
train loss:8.639954489868388e-05
100%|███████████████████████████████████████████████████████████████████████████▉| 11997/12000 [46:00<00:00, 4.52it/s]
train loss:0.00028254771107249675
100%|███████████████████████████████████████████████████████████████████████████▉| 11998/12000 [46:01<00:00, 4.57it/s]
train loss:0.00036394717221320565
100%|███████████████████████████████████████████████████████████████████████████▉| 11999/12000 [46:01<00:00, 4.55it/s]
train loss:0.00016698692585568998
100%|████████████████████████████████████████████████████████████████████████████| 12000/12000 [46:01<00:00, 4.35it/s]
train loss:0.003426520388089884
=============== Final Test Accuracy =============== test acc:0.9906 Saved Network Parameters!
def filter_show(filters, nx=8, margin=3, scale=10):
FN, C, FH, FW = filters.shape
ny = int(np.ceil(FN / nx))
fig = plt.figure()
fig.subplots_adjust(left=0, right=1, bottom=0, top=1, hspace=0.05, wspace=0.05)
for i in range(FN):
ax = fig.add_subplot(ny, nx, i+1, xticks=[], yticks=[])
ax.imshow(filters[i, 0], cmap=plt.cm.gray_r, interpolation='nearest')
plt.show()
network = SimpleConvNet()
filter_show(network.params['W1'])
network.load_params("../params.pkl")
filter_show(network.params['W1'])
from matplotlib.image import imread
def filter_show(filters, nx=4, show_num=16):
FN, C, FH, FW = filters.shape
ny = int(np.ceil(show_num / nx))
fig = plt.figure()
fig.subplots_adjust(left=0, right=1, bottom=0, top=1, hspace=0.05, wspace=0.05)
for i in range(show_num):
ax = fig.add_subplot(4, 4, i+1, xticks=[], yticks=[])
ax.imshow(filters[i, 0], cmap=plt.cm.gray_r, interpolation='nearest')
network = SimpleConvNet(input_dim=(1,28,28),
conv_param = {'filter_num':30, 'filter_size':5, 'pad':0, 'stride':1},
hidden_size=100, output_size=10, weight_init_std=0.01)
network.load_params("../params.pkl")
filter_show(network.params['W1'], 16)
img = imread('../simple/lena_gray.png')
img = img.reshape(1, 1, *img.shape)
fig = plt.figure()
w_idx = 1
for i in range(16):
w = network.params['W1'][i]
b = 0
w = w.reshape(1, *w.shape)
conv_layer = Convolution(w, b)
out = conv_layer.forward(img)
out = out.reshape(out.shape[2], out.shape[3])
ax = fig.add_subplot(4, 4, i+1, xticks=[], yticks=[])
ax.imshow(out, cmap=plt.cm.gray_r, interpolation='nearest')
plt.show()
markers = {'train': 'o', 'test': 's'}
x = np.arange(max_epochs)
plt.plot(x, trainer.train_acc_list, marker='o', label='train', markevery=2)
plt.plot(x, trainer.test_acc_list, marker='s', label='test', markevery=2)
plt.xlabel("epochs")
plt.ylabel("accuracy")
plt.ylim(0, 1.0)
plt.legend(loc='lower right')
plt.show()
import matplotlib.pyplot as plt
markers = {'loss': 'o','train': 'o', 'test': 's'}
x = np.arange(len(trainer.train_acc_list))
plt.plot(x, trainer.train_acc_list, marker='o', label='train', markevery=2)
plt.plot(x, trainer.test_acc_list, marker='s', label='test', markevery=2)
plt.plot(x, trainer.train_loss_list, marker='o', label='loss', markevery=2)
plt.xlabel("epochs")
plt.ylabel("accuracy & loss/10")
plt.ylim(0, 1.0)
plt.legend(loc='center right')
plt.show()